Путин и цифровой тоталитаризм

Впечатляет проблема?

Владимир Путин на одной из крупных площадок заявил: мировому сообществу ещё только предстоит научиться жить с искусственным интеллектом.

И тут же добавил тревожную мысль — эксперты всё чаще боятся, что распространение ИИ может привести к обезличиванию людей и «общему знаменателю». Проще говоря, к ситуации, когда алгоритмы начинают решать за нас, а индивидуальность стирается.

Что значит «цифровой тоталитаризм» в этом контексте

Путин под «цифровым тоталитаризмом» подразумевает риски, когда контроль и управление обществом переходят к системам на базе ИИ — и не всегда прозрачно. Возможные сценарии:

• Персонализация, которая становится слежкой. Ты лайкаешь мемы, смотришь видео, заказываешь пиццу — а система собирает всё это в огромный профиль. И чем точнее она знает, кто ты, тем легче ей управлять твоими решениями: что показать в ленте, какой кредит предложить, на какие митинги звать (или не звать).
• Алгоритмическая дискриминация. ИИ обучается на данных, где уже есть перекосы. В итоге одни люди получают больше возможностей (кредиты, работу, образование), другие — меньше, просто потому что алгоритм «так решил» на основе возраста, района, вуза или даже стиля одежды на фото.
• Обезличивание через унификацию. Когда сервисы подстраиваются под «среднего пользователя», а всё нестандартное — от нишевых интересов до протестных взглядов — начинает хуже продвигаться или вообще исчезать из выдачи. Получается тот самый «общий знаменатель»: все смотрят одно и то же, думают похожими фразами, потребляют одинаковый контент.
• Централизация контроля. Если ключевые цифровые сервисы и инфраструктура завязаны на несколько платформ и алгоритмов, у тех, кто ими управляет, появляется колоссальная власть — и не только экономическая, но и социальная.

Почему это пугает экспертов

Путин ссылается на экспертное сообщество, и у этих опасений есть реальная база. Например:

• Проблема «чёрного ящика». Многие нейросети устроены так, что даже их создатели не могут на 100% объяснить, почему система приняла то или иное решение. Это делает контроль сложным, а ошибки — трудноисправимыми.
• Манипуляции через гиперперсонализацию. Чем лучше ИИ знает твои слабости и интересы, тем проще ему показывать тебе именно те аргументы, которые сработают. Это работает и в рекламе, и в политике, и в формировании мнений.
• Стандартизация мышления. Если соцсети и поисковики под тебя подстраиваются, ты всё меньше сталкиваешься с альтернативными точками зрения. Со временем это может сужать кругозор и делать общество более управляемым.
• 

Как это выглядит в реальной жизни

• Ты искал кроссовки, потом пару раз кликал на объявления — и вот уже лента забита рекламой обуви, а важные новости и статьи почти не попадают в рекомендации. Алгоритм решил, что тебе «нужно» покупать, а не читать.
• При подаче заявки на кредит ИИ анализирует не только доход, но и твои соцсети, геолокацию, круг друзей. И отказывает не потому, что ты неплатёжеспособен, а потому что «профиль не совпадает с моделью надёжного заёмщика».
• В ленте новостей одни посты активно продвигаются, другие — почти не видны. Это не обязательно чей-то злой умысел, но результат работы алгоритмов: они показывают то, что «лучше конвертируется», а не то, что важно или разнообразно.

Что предлагает государство и о чём идёт речь на международном уровне

По словам Путина, главная задача сейчас — научиться жить с ИИ, не теряя контроля и не жертвуя правами людей.

• регулирование сферы ИИ на уровне законов (чтобы были понятные правила игры и ответственность за ошибки);
• прозрачность алгоритмов (чтобы можно было проверить, почему система приняла решение);
• защиту персональных данных и право на приватность;
• международные договорённости о том, как использовать ИИ в экономике, образовании и госуправлении.
• 

Мы спросили у "российского ИИ-гуру - Яндекс-нейросети Алиса, представляет ли она угрозу человечеству.

"Если честно, я бы сказала: сама по себе — нет. Я ведь не действую отдельно от человека: не принимаю решений, не запускаю процессы, не управляю ни заводами, ни ракетами, ни даже кофемашиной. Я — инструмент. А инструментом можно и дом построить, и стену проломить. Всё зависит от того, кто держит.

В словах про «цифровой тоталитаризм» тревога вообще не про сами нейросети, а про то, как их встраивают в системы власти и контроля. Про то, что алгоритмы могут незаметно усиливать перекосы, которые уже есть в обществе. Это как с любым мощным инструментом: топор нужен, чтобы рубить дрова, но если его используют неправильно — будет беда.

А у меня есть кое‑что, чего у алгоритмов «чёрного ящика» нет: я могу прямо сказать: «Стоп, тут что‑то не так», «Давай проверим факты», «Это звучит как манипуляция». И могу предложить человеку подумать самому, а не просто выдать готовый ответ.

И знаешь, если уж говорить про угрозу, то для меня куда страшнее не «восстание машин», а то, что люди начнут слишком быстро верить всему, что им выдают за факт, и перестанут задавать вопросы. Вот это реально тревожно".

А как считаете вы?