Что может генеративный ИИ и в чем его практическая польза

Павел Рябов, независимый аналитик

О волне ИИ-хайпа на рынке…

Рост рынка в последний месяц связан прежде всего с анонсами ИИ-моделей и ИИ-продуктов от ведущих ИТ-компаний США. Но есть ли в ГИИ польза и что он может делать? По сути, главное предназначение ГИИ – это компрессия и декомпрессия информации, а из этого уже «расщепляются» различные производные направления.

Компрессия информации – конспектирование, резюмирование, обобщение, «суммаризация» и т. д. огромных массивов текстовой, аудио- или видеоинформации по особым алгоритмам. Декомпрессия – из ранее сжатой информации на основе логических цепочек и по заданным сценарным векторам генерация аудио, видео или текстового контента.

Основные сценарии использования ГИИ:

• обобщение и интерпретация контента;
• перевод;
• экспертная система/ответы на вопросы;
• аналитика данных (пока хуже всего развито);.
• рерайт готовых текстов по заданным направлениям, стилям и тональности;
• копирайтинг, написание резюме, отзывов, эссе, простых статей; 
• более эффективное распознавание цифрового контента (документов, видео, аудио);
• более умный семантический поиск (например, поиск в фото или видео определенных объектов и сюжетов; пока не работает, но Google обещает интеграцию до конца года).

Тянет ли справочное бюро, переводчик, обобщение контента и умная группировка на 25 трлн долл. (кумулятивный ИИ-хайп с начала 2023 в США и развитых странах) с пафосной претензией на «изменение мира ДО чат-ботов и ПОСЛЕ»? Крайне сомнительно.

Подробнее о возможностях моделей  ГИИ читайте в ТГ-канале Spydell Finance

Как это все работает на практике, есть ли в ГИИ достаточная глубина рынка и пространство для монетизации, чтобы оправдать приращение капитализации на триллионы долларов?

О прикладном использовании больших языковых моделей…

Первый вопрос  – есть ли положительный опыт интеграции в научно-исследовательские проекты в области экономики и финансов? Нет, ни одна модель не функциональна, не работает.

Есть две критические и пока неразрешимые проблемы на архитектурном уровне самих моделей ГИИ.

Первая – нет вшитого контроля верификации выходных данных и корректности интерпретации. Другими словами, ГИИ не способна оценивать корректность и адекватность сгенерированного контента, нет встроенного критерия истинности.

Доступные на сегодняшний день LLM:

• не проверяют достоверность источников информации и не различают надежные данные от ненадежных.
• не способны самостоятельно выявлять логические ошибки или противоречия в своих ответах.
• не могут критически оценивать представленные аргументы и доказательства.
• не могут адекватно адаптировать свои ответы к специфическим условиям или контексту задачи.

LLM обучаются на сверхбольших массивах данных, изначальная достоверность которых под сомнением. Те данные, на которых были обучены LLM, изначально могут содержать ошибки, предвзятость и недостоверную информацию, а следовательно, обучение часто строится на ложных сведениях.

Сложная аналитика процессов и событий не подвластна ГИИ. Это высокоэрудированная система, которая достаточно тупа в понимании связей и зависимостей сложных систем, а социология, психология, политология, экономика – это как раз те области, где нет жесткой структуризации данных и нет однозначности в интерпретации.

В итоге время и ресурсы на проверку результатов работы ГИИ превосходят любую потенциальную выгоду. Слишком много фейков, чтобы использовать их в серьезных исследованиях и бизнес-процессах. Низкая достоверность выходного контента вшита на уровне архитектуры LLM, поэтому проблема неисправима ни сейчас, ни в ближайшем будущем.

Вторая проблема – необучаемость и ограниченная длина контекстного окна. Эта тема требует отдельного обзора.

Подробнее об использовании LLM читайте в ТГ-канале Spydell Finance