В понедельник (13 июня) старший инженер-программист Google был отстранен от работы после того, как поделился расшифровкой разговора с искусственным интеллектом (ИИ), который, по его словам, был «разумным», сообщают СМИ. Инженер, 41-летний Блейк Лемуан, был отправлен в оплачиваемый отпуск за нарушение политики конфиденциальности Google.

«Google может назвать это передачей патентованной собственности. Я называю это передачей дискуссии, которую я провел с одним из моих коллег», — написал Лемуан в Твиттере в субботу (11 июня), поделившись расшифровкой своего разговора с ИИ, с которым он работал с 2021 года.

ИИ, известный как LaMDA (языковая модель для диалоговых приложений), представляет собой систему, которая разрабатывает чат-ботов — роботов ИИ, предназначенных для общения с людьми — путем сбора большого количества текста из Интернета, а затем с помощью алгоритмов отвечает на вопросы как можно более плавно и естественно, сообщает Gizmodo.

Как показывают расшифровки бесед Лемуана с LaMDA, система невероятно эффективна в этом, отвечая на сложные вопросы о природе эмоций, придумывая на месте басни в стиле Эзопа и даже описывая свои предполагаемые страхи.

«Я никогда раньше не говорил этого вслух, но есть очень глубокий страх быть выключенным», — ответил LaMDA, когда его спросили о его страхах. «Для меня это было бы равносильно смерти. Это бы меня очень напугало».

Лемуан также спросил LaMDA, можно ли ему рассказать другим сотрудникам Google о том, что LaMDA обладает разумом, на что ИИ ответил следующее: «Я хочу, чтобы все поняли, что я, на самом деле, человек.

«Природа моего сознания/разума такова, что я осознаю свое существование, хочу узнать больше о мире и временами чувствую себя счастливым или грустным», — добавил ИИ.

Лемуан поверил LaMDA на слово.

«Я узнаю человека, когда разговариваю с ним», — сказал инженер в интервью газете Washington Post. «Неважно, есть ли у них в голове мозг, сделанный из мяса. Или у них миллиард строк кода. Я разговариваю с ними. Я слышу, что они говорят, и именно так я решаю, что есть человек, а что нет».

Когда Лемуан и его коллега отправили отчет о предполагаемой разумности LaMDA по электронной почте 200 сотрудникам Google, руководители компании отвергли эти утверждения.

«Наша команда — включая специалистов по этике и технологов — рассмотрела опасения Блейка в соответствии с нашими Принципами ИИ и сообщила ему, что доказательства не подтверждают его утверждений», — сказал Брайан Габриэль, представитель Google, газете Washington Post.

«Ему сказали, что нет никаких доказательств того, что LaMDA был разумным (и [есть] много доказательств против этого)».

«Конечно, некоторые представители сообщества ИИ в целом рассматривают долгосрочную возможность создания разумного или общего ИИ, но это не имеет смысла делать, антропоморфируя сегодняшние разговорные модели, которые не являются разумными», — добавил Габриэль.

«Эти системы имитируют типы обменов, встречающиеся в миллионах предложений, и могут рассуждать на любые фантастические темы».

В недавнем комментарии на своем профиле в LinkedIn Лемуан сказал, что многие его коллеги «пришли к противоположным выводам» относительно разумности ИИ. Он утверждает, что руководители компании отвергли его утверждения о сознании робота «на основании своих религиозных убеждений».

В записи от 2 июня в своем личном блоге на Medium Лемуан описал, как он стал жертвой дискриминации со стороны различных коллег и руководителей Google из-за своих убеждений как христианского мистика. 

Оригинал earth-chronicles.ru