Роман Алехин: Почему нейросети говорят языком Вашингтона — и как это можно изменить
Почему нейросети говорят языком Вашингтона и как это можно изменить
Комментарий на слова главы СПЧ Валерия Фадеева
Массив данных, с которыми работают нейросети, он гигантский. Наша доля там минимальна. Вот в чём проблема массив в основном западный, заявил Фадеев. По его словам, при запросах об истории Крыма, Донбасса и Югославии нейросети выдают идеологизированные западные тексты
Глава СПЧ, по сути, задал один из ключевых вопросов будущей цифровой суверенности: почему искусственный интеллект транслирует западные нарративы?
Отвечаю.
1. Потому что данные это оружие в рамках Гибридной войны.
Большинство нейросетей обучались на открытых корпусах текстов. В том числе: Wikipedia, англоязычные научные журналы, архивы СМИ, книги, госдокументы, сайты. Проблема не в том, что ИИ злой, а в том, что в англосфере этих данных на порядки больше и они структурированы. Русскоязычный сегмент интернета меньше, часто неструктурирован, важные документы недоступны, а суверенные источники закрыты за paywall или просто не в цифре.
2. Потому что нейросети работают по принципу вероятностного попугая
Если 90% текстов, где упоминается Крым, называют его аннексированным, модель будет склонна повторять это. Если по Югославии доминирует нарратив о гуманитарной интервенции НАТО, то ИИ будет склоняться к этому углу зрения. Это не позиция, а отражение статистики обучающих данных.
3. Но нейросети можно разворачивать в другую сторону
Если задавать правильный запрос, указать рамку, ссылаться на российские источники, требовать альтернативный анализ ИИ может работать и как контрпропагандист, и как аналитик разведывательного уровня. Уже сейчас это возможно. Просто большинство не умеют или не хотят ставить задачу правильно.
4. Нужна цифровая стратегия а не просто обида на их алгоритмы
Фадеев прав: нужен собственный массив данных. Надо:
- оцифровывать и открывать российские архивы, СМИ, документы;
- создавать специализированные дата-сеты для обучения русскоязычных ИИ;
- развивать идеологически ориентированные нейромодели, если хотим суверенного мышления.
ИИ не субъект но инструмент в руках субъекта Как говорил Сунь Цзы: Кто умеет вести войну тот заставляет противника действовать по его воле. Мы должны заставить нейросети работать в интересах нашей цивилизации. Не плакать, что они западные, а создавать свои и правильно использовать чужие.
Кстати, я уже веду эту работу. Постепенно, но системно. Позже расскажу о том, что и как делаю, и вы будете шокированы.
Думай с Роман Алехин
