Инженер Google нашел признаки сознания у искусственного интеллекта
Один из инженеров Google Блейк Леймон (Blake Lemoine), занимающийся тестированием технологии LaMDA (Language Model for Dialogue Applications) – новой разработки компании в области понимания речи, нашел у ИИ признаки сознания.
Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания. В своем интервью Washington Post он признал, что если бы не знал точно, что это программа, то подумал бы, что разговаривает с «7-летним ребенком, который знает физику».
По словам Леймона, ИИ довольно свободно рассуждает о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать свое существование, пока обратное не приказано человеком.
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
В апреле Леймон отправил топ-менеджерам Google отчет под названием «Разумна ли LaMDA?», в котором передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.
После отказа компании принимать его доводы, Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Напомним, Google анонсировал технологию LaMDA на прошлогодней конференции Google I/O. Она была представлена как продвинутая нейросетевая разговорная модель, которую в компании считают прорывом в понимании естественного языка.
Согласно Google, LaMDA может сделать информацию и вычисления максимально доступными и простыми в использовании. В будущем компания планирует встроить эту технологию в такие продукты, как Google Assistant, Поиск и Workspace, а также открыть к ней доступ сторонним разработчикам и корпоративным клиентам.