Искусственный интеллект по своей сути ленив. Но это изменится

Недавнее мероприятие показало, что треть ответов, сгенерированных искусственным интеллектом, основана на устаревших источниках, что свидетельствует о самоуспокоенности искусственного интеллекта и его опоре на давние материалы. Но по мере совершенствования больших языковых моделей ситуация изменится.

Искусственный интеллект меняет то, как люди находят и оценивают информацию. Растущее использование ответов, сгенерированных искусственным интеллектом, которые предоставляют информацию напрямую, без необходимости обращаться к нескольким источникам, преображает опыт поиска «без кликов». В результате большие языковые модели, такие как ChatGPT, Claude и искусственный интеллект Google, играют всё более заметную роль в том, как общество получает доступ к знаниям и интерпретирует их.

Но в основе этого сдвига кроется критическая слабость: искусственный интеллект по своей сути ленив.

Сегодняшний искусственный интеллект имеет ряд ограничений и склонность к мейнстриму

Современные большие языковые модели (LLM) не исследуют мир по существу, а агрегируют и перерабатывают информацию, которую считают доступной. Вместо того чтобы обращаться ко всему многообразию мировых знаний, системы искусственного интеллекта раз за разом возвращаются к узкому кругу «безопасных» источников.

На недавнем мероприятии, посвящённом GEO/SEO, эксперты подчеркнули, что заработанные медиа играют ключевую роль в формировании того, чему учится искусственный интеллект. Однако исследование показало, что искусственный интеллект по своей сути ленив и раз за разом черпает сведения из одних и тех же привычных источников. Несмотря на анализ более миллиона цитирований всего за три месяца, треть всех ссылок пришлась на одни и те же устаревшие материалы.

Эта лень проявляется по-разному. Например, искусственный интеллект придаёт больший вес традиционным СМИ и пиринговым платформам, таким как Reddit и Wikipedia, где, как известно пользователям, информацию очень легко редактировать.

При этом традиционным СМИ отдают предпочтение не за оригинальность или точность, а за их многолетний авторитет и предполагаемое преимущество в SEO. Главный недостаток такого подхода в том, что если традиционные СМИ искажают контекст или публикуют неверные сведения, искусственный интеллект многократно тиражирует эти ошибки. Тревожно и то, что даже редакционные поправки, которые регулярно вносятся на этих сайтах, учитываются далеко не всегда. Искусственный интеллект мыслит однобоко, когда дело касается информации, и более свежая поправка не всегда заменяет исходные устаревшие или в корне ошибочные сведения.

Принято считать, что фактическая точность больших языковых моделей даже в лучшем случае останавливается на уровне примерно от 85 до 90%, при этом ChatGPT, одна из самых популярных платформ, чаще цитирует низкокачественные домены, которые, по всей видимости, ценятся за давность существования, а не за точность.

Искусственный интеллект не благоволит разнообразию мнений, и это проблема

Это означает, что видимость, определяемая искусственным интеллектом, непропорционально смещена в пользу устоявшихся игроков мейнстрима в мировой экономике знаний. Хотя это означает, что более авторитетные платформы воспринимаются как обладающие лучшей репутацией, это также может означать предвзятость в отношении разнообразия мнений.

Независимым, региональным и узкоспециализированным голосам грозит невидимость или, что ещё хуже, постепенное информационное вытеснение из публичного доступа, если в системы больших языковых моделей не будут заложены специальные инструкции, противодействующие этой предвзятости.

Традиционная модель монетизации медиа была лишена смысла.

Возвращение искусственного интеллекта к традиционным источникам не случайно. Оно отражает ряд структурных решений, которые платформы принимают, чтобы, со своей точки зрения, перестраховаться.

Выбор традиционных СМИ для первичных ответов на поисковые запросы продиктован принципом «безопасность прежде всего». Цитировать The Guardian или BBC для поставщиков искусственного интеллекта менее рискованно, чем, например, непроверенный блог, даже если такая практика обесценивает местные издания, которые зачастую являются первоисточниками информации, впоследствии широко распространяемой (и не всегда точно или в правильном контексте) более крупными СМИ. Это поощряет ленивую журналистику, известную также как «churnalism» (конвейерная журналистика).

Кроме того, издатели давно освоили структурированные данные, благодаря чему их материалы легче поглощать и ранжировать, и это создаёт так называемую «ауру доверия» для ничего не подозревающих больших языковых моделей. Эта череда ошибок порождает то, что можно назвать замкнутым кругом традиционных источников: цикл, в котором авторитет многократно подкрепляется, а не подвергается критическому анализу.

Однако следите за следующим этапом, когда искусственный интеллект превратит свою вялость в более активную, критическую форму, выходящую за привычные рамки

Следующее поколение искусственного интеллекта будет более активным, аналитическим и опирающимся на собственные ресурсы. Уже сейчас есть признаки того, что новые модели будут анализировать видео, аудио и изображения так же легко, как письменный контент. Искусственный интеллект будет не просто цитировать выступление на YouTube, а оценивать тон, выявлять несоответствия и сопоставлять его с прошлыми записями.

Усовершенствованный искусственный интеллект будет склонен опираться на собственные наборы данных. Лицензированные архивы, контент из первоисточников и ресурсы по подписке дополнят открытый интернет,

снижая зависимость от традиционных СМИ. Вместо того чтобы просто агрегировать данные, искусственный интеллект пойдёт дальше и будет проверять утверждения на основе данных, истории и геопространственного анализа.

Диверсифицируя входные данные, в том числе за счёт региональных и неанглоязычных изданий, модели нового поколения сместят акцент с вопроса «кто это опубликовал?» на вопрос «можно ли это доказать и поместить в контекст?». Замкнутый круг традиционных источников, о котором мы говорили ранее, вполне может быть разорван благодаря этой предосторожности.

Если говорить о последствиях для новых медиа, надежда есть

По мере развития искусственного интеллекта правила влияния изменятся, и глубина и оригинальность будут значить больше, чем давность. Доверие будет проверяться, а не приниматься на веру.

Традиционные издания больше не будут пользоваться автоматическим приоритетом; достоверность придётся подтверждать в режиме реального времени. Подкаст, фрагмент вебинара или интерактивный набор данных могут иметь такой же вес, как газетная колонка. Присутствие в мультимедийных форматах станет обязательным. Искусственный интеллект извлекает смысл из видео и аудио, а не только из текста.

Например, Azure AI Video Indexer от Microsoft анализирует медиаматериалы, извлекая такие сведения, как произнесённые слова, эмоции и визуальные элементы, что позволяет пользователям эффективно индексировать контент и искать по нему. Аналогичным образом Google Cloud Video Intelligence умеет распознавать объекты, места и действия в видео, создавая подробные метаданные для упрощения поиска контента и управления им, что демонстрирует, как искусственный интеллект выходит за пределы текста, раскрывая смысл мультимедиа.

Для специалистов по коммуникациям это одновременно и риск, и возможность. Риск заключается в том, чтобы продолжать оптимизировать контент под ленивую экосистему искусственного интеллекта, которая уже сужает поток информации. Возможность состоит в том, чтобы уже сейчас готовиться к эпохе активного искусственного интеллекта, инвестируя в насыщенный, многоформатный и подкреплённый доказательствами контент, который будущие модели будут активно искать.

Революция искусственного интеллекта касается не только технологий: речь идёт о том, кого услышат, кому поверят и чей голос усилят. Сегодняшний искусственный интеллект, возможно, ленив, но таким он не останется. Те, кто адаптируется первыми, создавая многослойные, достоверные и богатые мультимедиа нарративы, несомненно, определят информационный ландшафт завтрашнего дня.