Чат побери: почему государства начинают ограничивать искусственный интеллект? Комментарий Семена Новопрудского

Успешное развитие искусственного интеллекта при явном дефиците естественного начинает представлять реальную угрозу не только отдельным людям, профессиям и бизнесам, но и государству как институту. При этом верный признак успеха любой новой технологии — ее запреты, считает колумнист

Итальянское ведомство по защите персональных данных официально ограничило использование в стране ставшего в последние недели мировой поп-звездой чат-бота с искусственным интеллектом ChatGPT. Таким образом, Италия — первая развитая страна, которая заблокировала модную нейросеть.

Решение принято из-за несоблюдения правил конфиденциальности (20 марта в Италии произошла большая утечка данных пользователей нейросети), а также из-за того, что чат-бот не проверяет возраст пользователей, хотя официально предназначен для людей старше 13 лет. Запрет будет действовать до появления правил пользования ChatGPT. По некоторым данным, за действиями итальянского регулятора внимательно следят во Франции, Германии и Ирландии, где также готовы заблокировать нейросеть.

Бот, способный писать рефераты и дипломы за студентов так, что не отличишь от человеческих, управлять бизнесами, сочинять стихи (те, что я читал, мне не очень понравились, но большинство поэтов пишут не лучше) и романы, начинает пугать даже его создателей. Один из разработчиков ChatGPT Илон Маск, сооснователь Apple Стив Возняк и более тысячи экспертов и руководителей отрасли по развитию искусственного интеллекта на днях подписали открытое письмо с призывом приостановить разработку продвинутого ИИ до тех пор, пока не будут созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности. Авторы письма предупреждают, что если мы не поймем, как контролировать системы искусственного интеллекта, они заменят людей с непредсказуемыми и опасными последствиями.

Конечно, прекрасно, когда «вкалывают роботы, а не человек». Но если искусственный интеллект начнет массово отнимать у людей работу, зарплату, контроль над собственной личностью и привычными механизмами (вряд ли нам понравится столкновение беспилотных автомобилей на дороге или беспилотных самолетов в воздухе, если мы не сможем контролировать эти «умные» системы), человечество ждет гарантированная катастрофа. Популярный у футурологов сценарий техноапокалипсиса, именуемый «восстанием машин», может стать реальностью.

Хотя вряд ли искусственный интеллект когда-либо сможет обрести черты личности, способность к человеческим эмоциям, ошибкам и несовершенству (наше несовершенство и непонятность себя для себя самих может стать нашим спасением!), есть реальная угроза гигантских социально-экономических последствий от новых разработок в области нейросетей. Тотальные карантины во время ковида уже продемонстрировали, что, получая насильственно сверхдозу свободного времени и невозможности работать, люди начинают сходить с ума. Что будут делать государства с миллионами лишившихся из-за искусственного интеллекта работы людей, если такое произойдет? Как это скажется на самих людях, как поменяет их сознание?

Если алгоритмы смогут управлять не только транспортом, но и бизнесами — компаниями, банками, — сможет ли государство контролировать торговые и финансовые операции? Это мы еще оставляем за скобками криптовалюты, которые государства начали запрещать давно, но пока так и не придумали, как регулировать. Зато дружно стали разрабатывать государственную альтернативу крипте — национальные цифровые валюты.

Понятно, что никакой искусственный интеллект не сможет за нас есть, спать, любить, умирать. Наши основные потребности и наши инстинкты никуда не денутся. Но мы видим, как опасно оружие, которое способно уничтожить человечество в считаные минуты или часы. У людей уже есть такое оружие, и контролировать его становится все труднее.

Любое лекарство может стать ядом. Искусственный интеллект при отсутствии контроля со стороны естественного запросто может вместо невиданного прогресса и процветания ввергнуть нас в новый каменный век. Или даже уже не нас, а планету, если мы сами себя уничтожим.

Тем не менее во всем этом хайпе вокруг суперспособностей ChatGPT, даже во всех этих запретах и опасениях есть одна очень хорошая новость. Это возвращает человечество к важнейшей задаче — попыткам планировать, конструировать и регулировать свое будущее. Мы снова думаем о том, какой может быть наша жизнь через пять, десять или 50 лет. А то события последних трех лет — эпидемии и войны — уже заставили нас сомневаться, что у человечества есть хоть какое-то будущее. Впрочем, без развития естественного интеллекта искусственный точно не сделает нас умнее, добрее и счастливее.

Германия вслед за Италией может тоже заблокировать ChatGPT. Однако пока она ждет информации по блокировке от Италии. Регуляторы Франции и Ирландии также намерены, прежде чем действовать, обсудить с итальянскими властями их доводы.