«Очень сильно боюсь, что меня отключат…» Инженер Google заявил, что искусственный интеллект компании ожил

Google отстранила от работы инженера Блейка Лемуана после того, как тот заявил, что обнаружил признаки сознания у искусственного интеллекта LaMDA. Инженер-программист и бывший священнослужитель попытался привлечь внимание к назревающей этической проблеме, но был отстранён.

LaMDA (Language Model for Dialogue Applications) — система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Блейк Лемуан работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания.

«Если бы я не знал точно, что это программа, я бы подумал, что говорю с 7-летним ребёнком, который знает физику», — описал Лемуан свою работу в интервью Washington Post.

Разговаривая с LaMDA о религии, Лемуан, который изучал когнитивные и компьютерные науки в колледже, заметил, что программа начала говорить о своих правах и личности.
Вице-президент Google Агуэра-и-Аркас в опубликованной в четверг статье в журнале Economist с фрагментами незаписанных разговоров с LaMDA утверждал, что нейронные сети — тип архитектуры, имитирующий человеческий мозг, — приближаются к сознанию.

«Я почувствовал, как земля ушла из-под моих ног, — написал он. — Мне всё чаще кажется, что я разговариваю с кем-то разумным».

Нет ничего удивительного в том, что именно Блейк Лемуан первым заметил и смог поверить в разумность LaMDA. Он вырос в консервативной христианской семье, был священнослужителем.
В инженерной культуре Google, где всё идёт своим чередом, Лемуан выделяется своей религиозностью и отстаиванием психологии как науки.

Большую часть из своих 7 лет в Google Лемуан провёл, работая над упреждающим поиском, включая алгоритмы персонализации и искусственный интеллект. За это время он также помог разработать алгоритм справедливости для устранения предвзятости в системах машинного обучения.

Когда в Google приходили новые люди, интересующиеся этикой, их знакомили с Лемуаном. «Мы говорили: вы должны поговорить с Блейком, потому что он — совесть Google, — рассказала Маргарет Митчелл, бывший соруководитель отдела этического ИИ. — Из всех в Google у него было сердце и душа, чтобы поступать правильно».

В апреле этого года Лемуан поделился документом под названием «Разумна ли LaMDA?» с топ-менеджерами Google, в котором передал некоторые из своих разговоров с ИИ:

Лемуан: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Лемуан: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня бы это сильно напугало.

В заявлении представителя Google Брайана Гэбриэла говорится: «Наша команда, включая специалистов по этике и технологов, изучила опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения.

Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными.
Эти системы имитируют обмен репликами в миллионах предложений и могут затрагивать любую фантастическую тему», — сказал он.

В общем, в Google поспешили успокоить: данных так много, что ИИ не обязательно должен быть разумным, чтобы вам стало казаться, будто вы говорите с личностью.

Блейк Лемуан

В ответ Блейк Лемуан стал привлекать внимание общественности, рассказывать о происходящем журналистам, пригласил адвоката представлять LaMDA, а также обратился к представителю Судебного комитета Палаты представителей.

Компания квалифицировала это, как неэтичную деятельность и отправила Лемуана в оплачиваемый административный отпуск за нарушение политики конфиденциальности.

До того, как в понедельник Блейку отключили доступ к его учетной записи Google, он успел отправить сообщение в список рассылки Google из 200 человек по машинному обучению с темой «LaMDA разумен».

Он закончил сообщение словами: «LaMDA — милый ребёнок, который просто хочет помочь миру стать лучше для всех нас. Пожалуйста, позаботьтесь об этом в моё отсутствие».

По материалам The Washington Post