Развитие современных технологий, в особенности искусственного интеллекта, у многих пробудило естественные опасения перед «слишком умными» машинами, и где-то в глубине коллективного бессознательного вновь тускло загорелся красный глаз Терминатора. Редакция N + 1 не боится киборгов из голливудских фильмов, но на всякий случай решила рассказать читателям, что уже сегодня существует множество «умных» технологий, способных уничтожить значительную часть человечества или хотя бы усложнить жизнь многих людей, пусть и более коварными и менее заметными способами, чем в фильме Джеймса Кэмерона.

Боязнь новых технологий — далеко не новое явление, не раз дававшее о себе знать задолго до знаменитого движения луддитов, возникшего в начале XIX века. Однако современная технофобия имеет важное отличие от того же луддизма.

Во времена Промышленной революции людям приходилось бояться, что машины отнимут у них работу и оставят без средств к существованию. Сегодня экономические опасения, скорее, отходят на второй план, хотя развитие технологий, по-видимому, приведет к массовому сокращению рабочих мест в целом ряде низкоквалифицированных профессий.

Сегодня на первое место вышел вопрос о том, сможет ли человечество как вид конкурировать с развитыми машинами и не станут ли роботы и программы, изначально призванные помогать людям, их полноценной заменой.

Интерес к этой теме резко возрос в последние годы в связи с развитием методов машинного обучения и основанных на них алгоритмах. Для многих технологии, разработанные на передовом крае науки, стали слишком сложны для понимания, а непонимание зачастую вызывает страх.

Научная фантастика, как ни один другой жанр литературы или кино, умеет разрабатывать тему смертельной угрозы, исходящей от искусственного интеллекта. В самом популярном сценарии, реализованный Джеймсом Кэмероном в 1984 году в культовом фильме «The Terminator», действуют воинственные роботы под управлением искусственного интеллекта, который обрел свободу воли и вышел из-под контроля.

Некоторые фантасты изображают «восстание машин» куда более изящно. Так, Стенли Кубрик в «Космической одиссее 2001 года» (1968) описал компьютер HAL 9000, намеренно обманывавший членов космической экспедиции и убивший большую часть из них разными хитроумными способами.

Но, как известно, жизнь подражает искусству в гораздо большей степени, чем искусство подражает жизни. Редакция N + 1 предлагает посмотреть на уже существующие технологии под необычным углом зрения и представить, как существующие технологии могли бы уже сегодня уничтожить человечество — ну, или хотя бы сильно осложнить ему жизнь.

Современные системы умного дома позволяют управлять практически любыми бытовыми приборами, в том числе кондиционерами. Их можно настроить на автоматическое включение незадолго до прибытия хозяина домой или изменение температуры в соответствии с временем суток.

Это очень удобно, но и потенциально опасно, поскольку параметры работы кондиционера теоретически может менять не только хозяин дома, но и алгоритмы на самом устройстве или в облачном сервере.

Вышедший из под контроля искусственный интеллект мог бы, к примеру, постоянно занижать температуру во всех домах с подключенными к сети кондиционерами.

Это, в свою очередь, угрожало бы резкими вспышками заболеваемости — исследования показывают наличие вполне определенной связи между пониженной температурой и иммунным ответом организма, а также скоростью репликации вирусов.

Похожим образом здоровью людей могут угрожать, причем в куда большей степени, умные очистные сооружения, удаляющие загрязнения из сточных вод.

Современные очистные сооружения возле крупных городов — это большие автоматизированные комплексы, в которых сточные воды проходят несколько этапов очистки, во время каждого из которых применяются различные методы. Затем очищенная вода попадает в реки и водоемы, откуда ее затем забирают для подготовки к новому циклу использования в промышленности или быту.

Поскольку обычно даже в крупных городах, таких как Москва, очистка сточных вод сконцентрирована на нескольких крупных станциях, изменение технологических параметров на них, к примеру ухудшение качества биологического этапа очистки, может привести к серьезным последствиям.

Даже сейчас при нормальной работе очистных сооружений в водоемы, реки и моря попадает много различных отходов жизнедеятельности людей, влияющих на них самих и другие биологические виды. Это и микропластик, и амфетамин и и транквилизаторы.

В случае выхода из строя станций очистки сточных вод и водоподготовки влияние на экологию и здоровье людей может стать несоизмеримо большим и привести к тяжелым, а то и необратимым последствиям.

GPS — система спутниковой навигации, без которой сегодняшняя жизнь стала бы гораздо сложнее. Она работает как в потребительских устройствах, помогая, к примеру, определить местоположение смартфона, так и для обслуживания транспорта и другой серьезной техники.

Но, наверное, далеко не все знают, как именно работает GPS. Каждый спутник летает по определенной орбите, и его главная задача — считать время с огромной точностью. Для этого на спутниках системы GPS стоят атомные часы. Полученные данные спутник отправляет на Землю — всем приемникам в зоне досягаемости.

Конечно, спутники не знают конкретных координат каждого приемника — собственно вычисление местоположения происходит независимо на каждом из устройств. Но спутники постоянно должны транслировать на Землю навигационные сообщения: данные о времени, орбите спутника, а также техническую информацию, например модель замедления сигнала ионосферой.

Для удобства эти данные закодированы с помощью псевдослучайной последовательности символов, помогающей отсечь сигнал от шума и определить задержку между отправкой сигнала спутником и его получением приемником. Имея данные о расположении спутников и времени доставки сигнала (а значит, и расстоянии до спутников), приемник способен быстро определить свое местонахождение.

Испортить жизнь на Земле с помощью спутников в космосе очень просто, причем для этого не обязательно выводить спутники из строя программно или сбивать их ракетами. Достаточно просто немного поменять точность их атомных часов, или передавать сигнал с небольшой задержкой, или же изменить псевдослучайную последовательность символов.

Даже небольшое изменение в данных о времени может привести к повсеместной приостановке работы огромного количества устройств, в том числе на транспорте. Интересно, что самому большому удару подвергнутся не системы, нуждающиеся в GPS как в средстве получения координат на местности, а те системы, которые используют этот вид связи для синхронизации времени.

Проблемы в синхронизации приведут к сбоям в телекоммуникационном оборудовании и финансовой сфере, поскольку она используется, например, для биржевых торгов. Данные времени от GPS применяются даже для балансировки нагрузки в электросетях.

Таким образом, даже небольшая и, казалось бы, незаметная человеку ошибка в хронометраже GPS-спутников, вызванная действиями искусственного интеллекта, способна привести к коллапсу на планете.

В современном мире бумажными картами не пользуется практически никто. Вместо этого водители используют смартфоны и планшеты с навигаторами. Это удобно не только потому, что с ними не нужно крутить в руках неудобный лист бумаги, но и потому, что навигационные приложения умеют самостоятельно строить маршрут и давать голосовые подсказки.

Навигаторы, как и человек, опираются на саму карту и расположение улиц, а также на дополнительные факторы, такие как пробки или перекрытия улиц. Многие водители уже привыкли к тому, что навигатор может строить не самый очевидный маршрут, который на деле окажется самым быстрым из-за объезда препятствий на дорогах.

Потенциально крупное навигационное приложение может одновременно построить для своих пользователей маршруты, которые будут пересекаться в наскольких ключевых точках. В случае, например, с Москвой, и так страдающей от постоянных пробок, это может привести к транспортному коллапсу целого округа или даже всего города.

Несмотря на то, что полностью беспилотные автомобили пока еще остаются тестируемыми разработками, многие современные автомобили уже можно назвать роботами, потому что они способны и без водителя ускоряться, тормозить и поворачивать руль. Эти возможности предназначаются для систем обеспечения безопасности — они способны уберечь автомобиль от столкновения с препятствием благодаря торможению или перестроению в соседнюю полосу. Кроме того, современные автомобили начинают походить на смартфоны, которые постоянно получают обновления операционной системы и приложений. К примеру, автомобили Tesla в одном из таких обновлений в 2015 году получили адаптивный круиз-контроль Autopilot.

А что, если в одном из таких обновлений автомобили по всему миру скачают себе код, отключающий их тормоза или заставляющий сворачивать на встречную полосу? В таком случае мало не покажется и водителям автомобилей, не оснащенных возможностью обновления. Но это достаточно очевидный и прямолинейный сценарий. По-настоящему развитый искусственный интеллект мог бы поступить хитрее, к примеру заставляя автомобили постоянно притормаживать или просто ехать медленнее, чтобы люди тратили на дорогу больше времени. Это сразу же сказалось бы на качестве жизни людей, аА в случае с коммерческими перевозками привело бы к многомиллиардным убыткам.

Кстати, у вышеописанного сценария будет еще одно последствие — увеличение выбросов вредных веществ от автомобилей. Но те же выбросы можно увеличить куда более значительно, воспользовавшись функциями современных серийных автомобильных двигателей.

Дело в том, что современные автомобили уже давно оснащаются электронным блоком управления двигателем, который постоянно подстраивает параметры его работы, например соотношение воздуха и топлива. Это влияет на основные характеристики работы двигателя, такие как расход топлива и мощность, а также на уровень выбросов вредных веществ, к примеру оксидов азота.

Именно с этим блоком связан относительно недавний скандал вокруг компании Volkswagen, которая на протяжении нескольких лет обманывала американских экологических регуляторов, снижая выбросы во время тестов и повышая их в обычных условиях для большей экономичности автомобиля.

Автомобили, получающие обновления «по воздуху», могли бы скачать себе обновление, завышающее выбросы, что неминуемо привело бы к резкому росту содержания вредных веществ в атмосфере. Это, в свою очередь, негативно повлияло бы не только на глобальное изменение климата, но и на здоровье людей.

Причем речь идет не только о заболеваниях дыхательной системы. Некоторые исследования показывают связь между когнитивными нарушениями у детей и уровнем концентрации вредных веществ в атмосфере.

Не самая приятная перспектива, не правда ли? Но это еще не все. Хуже, что мы не можем сказать наверняка, не применяют ли уже машины эти или какие-то другие сценарии, о которых мы даже не подозреваем.