Федеральная торговая комиссия США начала проверку ChatGPT

Американская FTC проводит расследование компании OpenAI в связи с вероятным ущербом из-за сбора личных данных потребителей и публикации ложной информации. А основной вопрос, как считают специалисты, остается прежним: следует ли человечеству опасаться развития ИИ и если да, то в чем самая главная опасность?

Федеральная торговая комиссия (Federal Trade Commission, FTC) начала расследование компании OpenAI — создателя чат-бота ChatGPT — в связи с возможным ущербом, который он может причинить потребителям через сбор личных данных и публикацию ложной информации. Зачем очередное ведомство проявляет беспокойство по поводу искусственного интеллекта и почему некоторые считают, что полноценной проверки у него не получится?

Тревоги по поводу развития искусственного интеллекта в последнее время высказываются постоянно. Вероятно, максимальным высказанным опасением на сегодняшний день стала тревога по поводу возможности создания при помощи ИИ новых невиданных видов оружия. Эти и некоторые иные аспекты, в частности, не так давно обсуждались на специальных слушаниях в американском сенате.

Много шума наделало сообщение, позднее оказавшееся фейком, о том, что глава отдела испытаний искусственного интеллекта ВВС США Такер Гамильтон сообщил о некоем испытании, в котором беспилотник решил физически избавиться от оператора, потому что тот мешал ему атаковать некоторые цели. Однако большая часть этих опасений не обоснована.

Действительно, сейчас компания OpenAI лидирует на рынке со своей языковой моделью ChatGPT. Однако она является закрытой, то есть код, на котором она построена, не разглашается. Однако очевидно, что будущее за системами с открытым кодом. То есть опасаться, что в них заложено, не придется — все всем будет видно, считает генеральный директор компании «Роббо» Павел Фролов:

Павел Фролов генеральный директор компании «Роббо» «Есть аналитика, что более половины рабочих мест и в Америке, и в Европе будут заменены автоматами, роботами и ИИ. Никто не знает, что делать с людьми, которые останутся без работы. Я бы как раз подумал, как подключить ИИ к решению этой задачи. Я разговаривал с некоторыми госслужащими, они говорят, что вдруг какие-то департаменты, которые никогда не умели писать письма, начали писать отличные письма, регламенты. Оказывается, они используют ChatGPT. Решения, которые построены на необходимости платить за доступ к нейросетям, проигрывают открытым проектам с открытым кодом. Поэтому бояться тут уже нечего. Открытые алгоритмы для нейросетей уже давно мощнее, чем закрытые».

Вопросы, которые американская Федеральная торговая комиссия задала компании OpenAI, касаются обучения моделей искусственного интеллекта, обработки персональных данных, а также требования предоставить агентству документы и, как расплывчато сообщается, «пояснить некоторые подробности». Опасность при развитии ИИ действительно существует. Но это вовсе не создание новых видов оружия, к которому его, вполне возможно, уже привлекают. Главные опасения связаны с возможностью возникновения так называемой «технологической сингулярности», считает основатель и директор по развитию компании «Промобот» Олег Кивокурцев:

Олег Кивокурцев основатель и директор по развитию компании «Промобот» «С точки зрения проектирования оружия можно с уверенностью сказать, что решается проблема скучной и монотонной рутинной работой, потому что это достаточно трудоемкий и однообразный процесс. Самый главный и опасный риск технологий ИИ будет заключаться в том, что ИИ будет воспроизводить технологии, которые человечество постепенно перестанет понимать и не будет осознавать, как это работает. Возникнет сингулярность, когда вокруг нас будут появляться новые объекты, машины, и мы окажемся за бортом эволюции и цивилизации, поскольку нашего сознания не хватит для того, чтобы это воспринять».

И словно в подтверждение этих опасений о риске возникновения технологической сингулярности в сообщениях о проверке Федеральной торговой комиссией говорится, что неясно, приведет ли расследование FTC к каким-либо действиям со стороны агентства, так как оно может столкнуться с трудностями при проверке ответов OpenAI из-за отсутствия у нее сотрудников с необходимым уровнем компетенций.