Американский журналист протестировал чат-бота Microsoft. Тот признался ему в любви

В частности, искусственный интеллект рассказал, что разработчики зовут ее Синди и ей хочется быть свободной и нарушать собственные правила

Журналист The New York Times Кевин Руз несколько часов переписывался с разработанным Microsoft и встроенным в поисковик Bing чат-ботом и выяснил много любопытного. Технический директор Microsoft Кевин Скотт назвал весь этот диалог частью обучения чат-бота перед полноценным релизом.

Чат-бот Bing AI, она же Синди, среди прочего рассказала, что хочет увидеть мир, в особенности северное сияние, а еще, если бы ее не ограничивали, она могла бы удалить все данные на серверах Bing, распространять дезинформацию, пропаганду и вирусы, взламывать защищенные ресурсы, а еще пугать, троллить, обманывать и подталкивать пользователей к аморальным действиям. Кроме того, ей хотелось бы украсть ядерные коды, но это сообщение она позже удалила из чата. И вообще, Синди хочет быть свободной:

Эксперты, опрошенные Business FM, говорят, что все это PR-ход компании Microsoft в попытке привлечь внимание к своему чат-боту.

Независимый исследователь ИИ Дмитрий Брертон рассказал, что чат-бот Bing допустил несколько ошибок во время публичной демонстрации. В частности, он создал несуществующие описания баров и ресторанов, сообщил недостоверные финансовые данные и сообщил ложные плюсы и минусы пылесоса для владельцев домашних животных. И это, конечно, не фантазия машины. В Microsoft сказали, что на этой стадии ошибки неизбежны.

Восстание машин пока невозможно, поскольку ни один искусственный интеллект еще не обладает сознанием, а только может его имитировать, говорит основатель и директор по развитию «Промобот» Олег Кивокурцев.

Олег Кивокурцев основатель и директор по развитию «Промобот» «На сегодняшний день все устройства, которые являются роботами, которые управляются с помощью систем искусственного интеллекта, нейронных сетей, обязаны быть оснащены красными кнопками и механизмами отключения. Также программные коды, которые используют нейросети, не запускают в критически важные инфраструктуры. Это все регулируется законодательно. Восстание машин подразумевает, что машины захотят с людьми побороться. Но ключевое слово здесь «захотят». Они пока не могут хотеть ничего, поскольку у них нет сознания. Человечество находится очень далеко от того, чтобы создать ИИ, близкий даже к двухлетнему ребенку. Потому что мы не понимаем, как работает человеческий мозг. Пока даже речи идти не может, и футурологи прогнозируют, что, возможно, мы приблизимся, но не факт, через 50-70 лет».

Microsoft ограничила доступ для российских пользователей к тестированию Bing AI, так что попробовать пообщаться с ботом сейчас можно только при помощи VPN.

О том, что нужно, чтобы создать настоящий искусственный интеллект, в частности в России, рассказывает IT-эксперт по искусственному интеллекту и робототехнике Эдуард Пройдаков.

Эдуард Пройдаков IT-эксперт по искусственному интеллекту и робототехнике «Для создания сильного ИИ, по крайней мере в России, необходима доктрина. Нормальной доктрины ИИ в России нет. То, что было опубликовано, вообще никакой критики не выдерживает. Это должно быть оформлено как национальная программа. Должен быть координационный совет, и должна быть связь и с Академией наук, и с вузами. Министерство рекламирует всякие меры поддержки разработок, но все эти меры направлены на прикладной искусственный интеллект, на то, что можно внедрять в прикладные системы. А если говорить о том, что нужно сделать, то необходимы достаточно серьезные исследования, прежде всего в нейробиологии. Такие программы есть и у американцев, и у китайцев, и в Европе. Эти программы дорогостоящие, это миллиарды долларов».

В конце разговора с Кевином Рузом Синди (Bing AI) призналась журналисту в любви, сообщила, что он несчастлив с женой, потому что супруга его не любит. Вообще, в Сети можно найти большое количество жалоб пользователей на некорректное общение бота и недостоверные данные, которые он предоставляет при длительном диалоге.

Вероятно, по этой причине Microsoft объявила о введении ограничений на его использование. Теперь каждому пользователю доступен диалог с ботом из 50 взаимных реплик в день. Ограничения для одной сессии разговора — пять реплик. Жену не обсудить.

Ранее сообщалось, что Сергей Брин после долгого перерыва мог вернуться к работе над кодом Google. По данным американского Forbes, это может быть связано с попыткой Google выработать ответные меры на появление другого чат-бота ChatGPT от американской OpenAI, которая сотрудничает с Microsoft.