Нейросеть врет
Одно из самых поразительных откровений последнего времени — это то, с какой лёгкостью алгоритмические ассистенты могут выдавать вымысел за правду: придумывать несуществующие события, песни и людей без малейших угрызений совести и колебаний.
Но нейросеть врёт не как студент, не знающий билет, и не как базарный торговец с «другого такого не найдешь!» товаром. Её враньё — за пределами человеческого, хотя и окутывает все больше самых разных сфер нашей жизни.
«Стохастический попугай» (от греческого o — умеющий угадывать) — так исследователи назвали искусственный интеллект, подчёркивая, что его работа основана на вероятностях, а не на понимании.
«Нейровранье» — не ложь в привычном смысле слова, но чепуха, буллшит, неизбежное следствие самой природы алгоритмических моделей. Нейросеть не знает, что говорит: у неё нет ни знания, ни говорящего. Она производит правдоподобное, но не обязательно правдивое. Ей вообще всё равно, что такое правда.
А нам — нет.
