Разработчика Google, заявившего о наличии сознания у искусственного интеллекта компании, отправили в отпуск

Инженер тестировал нейросеть для общения в чат-ботах и в результате своих наблюдений за ответами чат-бота сделал вывод о наличии у него сознания. Может ли Google скрывать сознание у искусственного интеллекта?

Инженера Google, обнаружившего у искусственного интеллекта сознание, отстранили от работы. Как сообщает The Washington Post, сотрудник Google Блейк Лемойн обнаружил у нейросети для создания чат-ботов сознание восьмилетнего ребенка. Компания заявила, что свидетельств самосознания у системы нет, а инженера отправила в оплачиваемый отпуск.

Инженер Google Блейк Лемойн тестировал нейросеть для общения в чат-ботах на любые темы. В основе этой системы лежат большие языковые модели — триллионы слов из интернета. В задачи инженера входило проверить, не использует ли модель дискриминационную или разжигающую вражду лексику. По словам сотрудника, чат-бот писал о своих правах и обсуждал законы робототехники Айзека Азимова, а это признак собственного сознания и восприятия себя как личности. Сотрудник подготовил для Google отчет, что нейросеть отвечала ему как ребенок семи-восьми лет, который хорошо разбирается в физике. Однако его аргументацию посчитали неубедительной, не приведя контраргументов.

Могло ли быть у нейросети сознание? Директор по науке и технологиям Агентства искусственного интеллекта, автор YouTube-канала «Душкин объяснит» Роман Душкин считает, что вряд ли:

Роман Душкин директор по науке и технологиям Агентства искусственного интеллекта, автор YouTube-канала «Душкин объяснит» «Нейросеть — это набор маленьких вычислительных устройств, то есть это математическая формула. Даже Google себе не может позволить создать нейросеть, которая по мощности была бы сопоставима с тем, что находится в голове у крысы. Говорить о том, что в этой нейросети что-то там зародилось, это смешно: ни одна сеть компьютеров не может это сегодня смоделировать. Если сама система говорит, что я осознала саму себя, это достаточно слабый критерий: в одну строчку могу чат-бота написать, который такую фразу будет говорить. Если сотрудник начал рассказывать про это, не согласовав, то, скорее всего, отстранили его именно за это. А то, что он сам себе придумал что-то, за это обычно не отстраняют».

Компания отправила специалиста в оплачиваемый отпуск. Тогда Лемойн рассказал о своих наблюдениях общественности. Он даже нанял адвоката для представительства интересов программы в суде. Международное право пока не может урегулировать этот вопрос, считает партнер юридической фирмы 2B.Law Office Антон Городецкий:

Антон Городецкий партнер юридической фирмы 2B.Law Office «Сознание и искусственный интеллект: относительно их содержания нет единого представления не только у юристов, но и у представителей других областей знания. Эта область в России, как и во всем мире, является зоной с практически отсутствующим правовым регулированием. Право в 99% случаев регулирует уже существующие в реальном мире явления. Наиболее чувствительные вопросы влияния технологий искусственного интеллекта на права человека исследуются».

По мнению руководства Google, нейросеть может походить на разумное существо, это объясняется огромным массивом загруженных в нее данных. В компании говорят, что специалисты по искусственному интеллекту не исключают появления обладающего созданием ИИ. При этом не стоит очеловечивать нынешние языковые модели, которые не обладают сознанием. Лемойн по своей специальности — инженер по программному обеспечению, а вовсе не специалист по этике ИИ, продолжает The Washington Post. Можно ли отличить искусственный интеллект от человека? Рассуждает психотерапевт, руководитель Центра психотехнологий Ольга Добрынина:

Ольга Добрынина психотерапевт, руководитель Центра психотехнологий «Там написано: «Мне показалось, что я разговариваю с ребенком семи-восьми лет». Главное слово здесь — «мне показалось». Эмоциональная, этическая и моральная — вот этими категориями на данный момент обладают люди. А искусственный интеллект, насколько я погружена в тему, — там немножко по-другому. Что стоит понимать об искусственном интеллекте, это реальность: роботы становятся очень большой частью нашей жизни. Пугаться этого не стоит. Занижать возможную опасность использования тоже не стоит. Стоит разработать этические моменты, как этим явлением оперировать».

Есть ли у искусственного интеллекта сознание, мы решили спросить у «Алисы» от «Яндекса», которая тоже работает на основе нейросети:

Ответ однозначный.