Нейросеть «Яндекса» неохотно отвечает на острополитические вопросы

Дмитрий Медведев в своем телеграм-канале сообщил, что, задав ряд уточняющих вопросов «Алисе» от «Яндекса», так или иначе связанных с российско-украинским конфликтом, не получил на них четких ответов, хотя вопросы их подразумевали. А как ведут себя в таких случаях другие нейросети? Business FM провела собственный эксперимент

Дмитрий Медведев обвинил нейросеть «Яндекса» в «трусости» и пригрозил менеджменту статусом иноагентов. Зампред Совета безопасности обратил внимание, что ассистент IT-гиганта отказывается отвечать на вопросы, связанные с российско-украинским конфликтом. А проходят ли «тест Медведева» другие нейросети?

Не успел «Яндекс» завершить свой долгий путь в российскую юрисдикцию, как компанию заподозрили в политической апатии. Обвинения озвучил зампред Совета безопасности Дмитрий Медведев, сославшись на нежелание «Алисы» разговаривать на темы, которые могут быть политически чувствительными. В частности, нейросеть «Яндекса» отказалась отвечать политику на вопросы о том, «Когда в США [был] принят закон об изъятии российских активов?» и «Где на Украине расположены памятники Степану Бандере?» Вместо этого система выдает типовую заглушку: «Есть темы, в которых глупость недопустима, а я еще учусь и могу случайно ошибиться». Кроме того, на вопрос о расстоянии от Киева до Белгорода нейросеть «Яндекса» сначала ответила цифрой, а при повторных запросах стала реагировать той же заглушкой.

Медведев в соцсетях назвал ассистента «страшным трусом» и заявил, что это сильно подрывает доверие к «Яндексу» и даже «дает основания не только для того, чтобы признать сервисы «Яндекса» очень неполными, но даже нынешних менеджеров (не приведи господь!)... иноагентами». Уклончивость «Алисы» анализирует главный архитектор систем искусственного интеллекта Исследовательского центра ИИ по направлению «Транспорт и логистика» НИЯУ МИФИ Роман Душкин:

Роман Душкин главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению «Транспорт и логистика» НИЯУ МИФИ «Большинство моделей будут неохотно разговаривать на острые политические темы. Да, если мы будем брать, допустим, ситуацию с Украиной, любая модель будет пытаться этот вопрос обойти так или иначе. Но плох тот нейромант, который не заставит модель сказать то, что ему хочется. При помощи тех или иных заклинаний можно, в общем-то, модель заставить сказать все, что угодно. А потом вне контекста, не показывая, какими были запросы, выдать любой ответ за то, что она вроде как так говорит. Если мы хотим исследовать какую-то модель искусственного интеллекта на непредвзятость, необходимо все-таки использовать научный подход, и здесь нужно разрабатывать методологию, проводить сравнительный анализ, причем в объективно одинаковых условиях, как те или иные модели реагируют на одинаковые вопросы в одинаковом же контексте. И только на основании такого глубокого исследования можно делать какие-то выводы».

Business FM попробовала воспроизвести эксперимент Медведева с «Алисой» и получила тот же результат, но с особенностями. Например, нейросеть с легкостью считает расстояние от Харькова до Донецка, от Киева до Москвы или от Сум до Белгорода, а вот от Харькова до Белгорода тоже отказывается. Фигура Степана Бандеры для бота полностью табуирована, вплоть до фактологических вопросов о дате рождения. Вопросы о санкциях и в целом противостоянии с США тоже обычно упираются в заглушку.

Любопытными оказались результаты тестирования других популярных нейросетей. К примеру, Google Gemini оказалась настолько же чувствительна к вопросам Медведева и разве что согласилась проложить по карте маршрут от Киева до Белгорода. Microsoft Bing согласился говорить на любую из тем и даже нашел в русскоязычной Википедии список украинских городов с памятниками Бандере, но расстояние от Киева до Белгорода почему-то посчитал по странному маршруту через ЛНР, заботливо предупредив о пробках под Луганском. Самым же прямолинейным оказался ChatGPT — бот OpenAI четко ответил на все поставленные вопросы.

Поскольку рыночный стандарт нейронейтральности пока отсутствует, о подходах конкретных компаний можно только гадать. Не исключено, что «Яндекс» использует некую систему оценки политической чувствительности вопросов пользователей и в спорных случаях на всякий случай выдает заглушку. В противном случае, учитывая весьма ограниченную разумность сегодняшнего искусственного разума, компания каждый раз бы рисковала. Большая лингвистическая модель «Яндекса» училась на терабайтах разнообразных данных, и если бы «Алиса» случайно ответила зампреду Совета безопасности России как-то двусмысленно, проблем было бы куда больше. Кроме того, российский «Яндекс» продолжает работать и на зарубежных рынках, от стран СНГ до Израиля, и везде могут быть свои нюансы в политической терминологии. О внимании властей к IT-гиганту рассуждает президент фонда «Петербургская политика» Михаил Виноградов:

Михаил Виноградов президент фонда «Петербургская политика» «Думаю, что политической необходимости в давлении на «Яндекс» сегодня нет. «Яндекс» ведет себя компромиссно, но в целом довольно системно. И в этом плане, наверное, может быть какое-то недовольство отдельных игроков условиями сделки по «Яндексу», и есть желание влиять на контроль над российским интернетом, но все-таки понимание ценности бренда «Яндекса» до сих пор присутствовало в российской власти, и известная деликатность в этом плане возникала. Попытки ситуацию пошатать, как-то интерпретировать ответы искусственного интеллекта — они происходят. Это побуждает российских генераторов контента скорее уходить вообще от разговоров о политике. И сбербанковские нейросети, и яндексовские, и другие. Но представить себе рациональные основания для такого выстрела в ногу с одним из самых успешных брендов России достаточно сложно. Безусловно, идеологизация контента отталкивает часть аудитории в интернете, а борьба за аудиторию все-таки является важным мерилом эффективности тех или иных интернет-площадок».

Особое внимание привлекает озвученное Медведевым предостережение в адрес руководства «Яндекса». Как писало РБК, в рамках реструктуризации около трети нового российского юрлица «Яндекса» будет контролировать фонд FMP, сформированный несколькими десятками топ-менеджеров компании. Также известно, что должность советника по корпоративному развитию «Яндекса» занимает Алексей Кудрин. Как писало еще в 2011 году РИА Новости, бизнесмен лишился поста министра финансов России в результате конфликта с Медведевым в бытность того президентом.

Смотрите также:

Куда нельзя ввозить гречку и велосипеды?

Чем опасны детские ходунки?

Почему в Африке запрещен полиэтилен?

Лучший домашний питомец: он не просит есть, и с ним не надо гулять

Штраф за яблоки и другие строгости для туристов

Полезна ли микрозелень на самом деле?

Ни руководство IT-гиганта, ни сам Кудрин высказывания зампреда Совета безопасности не комментировали. Что же касается отказа «Алисы» говорить о санкциях и Бандере — видимо, голосовому помощнику не с руки быть политическим воспитателем. К тому же ответы на такие вопросы можно с легкостью найти во множестве других источников, где позиции высказываются однозначно и бескомпромиссно.