"Алису" с "Марусей" обвинили в "нелояльности"

В СПЧ обеспокоены алгоритмами российских нейросетей, отказывающихся давать "политкорректные" ответы на наболевшие вопросы.

Об этом свидетельствует Ъ:

"Глава президентского Совета по правам человека (СПЧ) Валерий Фадеев возмущен отказом «Алисы» и «Маруси» отвечать на политические вопросы. Об этом он прямо заявил в ходе мероприятия под названием «Защита прав и свобод граждан в условиях цифровизации», организованном СПЧ и форумом «Петербургский диалог».

В ответ представитель «Яндекса» постарался объяснить, как работают нейросети и почему уход от ответа — «лучшее, что мы можем сделать сейчас».

 

Фото: Александр Миридонов, Коммерсантъ

Глава СПЧ Валерий Фадеев коснулся проблемы сохранности персональных и личных данных граждан в условиях тотальной цифровизации — от фотографий до платежей. 

«В чате GPT (разработан американской компанией OpenAI.— “Ъ”) есть ответы,— уточнил глава СПЧ.— Я думал, что это будут жесткие пропагандистские ответы, но нет — мнение с одной стороны, с другой стороны, есть дискуссия. Довольно обтекаемо, но ответ есть.

А наши новые инструменты почему стесняются давать ответы?

Это не вопрос цензуры, это вопрос отношения нации к своей истории, важнейший идеологический вопрос».

Ранее, напомним, ответами «Алисы» на ряд похожих вопросов возмутился зампред Совета безопасности Дмитрий Медведев.

"Алису" тоже запишут в иноагенты?

Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов объяснил, что отказ в данном случае не носит идеологической подоплеки.

Ведь невозможно представить канонический ответ по столь важному поводу. Нейросеть, продолжал он, старается подражать всем текстам, которые видела, и фактически подставляет слова, отталкиваясь от того, что в этом случае могли бы написать люди. При этом, отметил господин Крайнов, в алгоритм вносится элемент случайности, чтобы ответы не были одинаковыми: «Именно поэтому, если каждый раз задавать один и тот же запрос, результат будет отличаться. В том числе отличие может быть абсолютно радикальным по смыслу».

Ответы ИИ, напомнил представитель «Яндекса», не подвергаются редактуре, тогда как есть темы, в которых ошибиться «не страшно», а есть темы, за ошибку в которых компания может понести уголовную ответственность.

«Уход от ответа — лучшее, что мы можем сделать сейчас,— резюмировал господин Крайнов.— Потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего».

...

В СПЧ сообщили “Ъ”, что по итогам круглого стола будет подготовлена резолюция, которую направят в профильные ведомства.

Напомним, возмущение нейросетью YandexGPT Дмитрий Медведев высказал после того, как "яндексовская" Алиса отказалась отвечать на вопросы про памятник Бандере. По его мнению, это может стать основанием для признания менеджеров иноагентами

Зампред Совбеза Дмитрий Медведев раскритиковал YandexGPT за уход от ответов на вопросы об изъятии российских активов в США, расстоянии от Киева до Белгорода и про памятники Бандере на Украине.

Нейросеть YandexGPT внедрена в голосового помощника "Алиса", который используется в различных продуктах "Яндекса", включая "умные" колонки.

По его мнению, этот ИИ — "страшный трус".

Так, нейросеть не ответила прямо на вопрос о том, когда в США приняли закон об изъятии российских активов, а на вопрос о расстоянии между Киевом и Белгородом сначала дала ответ, но потом заявила, что "еще учится".