15 апреля 2025 г.

Gartner прогнозирует, что к 2027 году компании внедрят малые, специализированные ИИ-модели, и объем их использования будет как минимум втрое больше, чем универсальных больших языковых моделей (LLM).

Универсальные LLM предоставляют мощные языковые возможности, однако точность их ответов снижается в задачах, требующих специфичного контекста предметной области.

«Разнообразие задач в бизнес-процессах и потребность в большей точности стимулируют переход к специализированным моделям, тонко настроенным на конкретные функции или данные предметной области, — пишет в пресс-релизе Сумит Агарвал (Sumit Agarwal), вице-президент-аналитик Gartner. — Эти меньшие по размеру, специализированные модели быстрее предоставляют ответы и потребляют меньше вычислительной мощности, снижая операционные расходы и затраты на техобслуживание».

Компании могут приспособить большие языковые модели для конкретных задач, применяя технологию RAG (генерацию ответов, дополненную результатами поиска) или методы тонкой настройки, чтобы создать специализированную модель. При этом важнейшим фактором становятся корпоративные данные, требуя их подготовки, проверки качества, контроля версий и общего управления, чтобы соответствующие данные были структурированы согласно требованиям тонкой настройки.

«Поскольку компании всё больше осознают ценность своих внутренних данных и инсайтов, полученных в ходе специализированных процессов, они, вероятно, начнут монетизировать свои модели, предлагая доступ к этим ресурсам более широкой аудитории, включая своих клиентов и даже конкурентов, — пишет Агарвал. — Это знаменует собой сдвиг от охранительного подхода к более открытому, совместному использованию данных и знаний».

Коммерциализируя свои проприетарные модели, компании могут создать новые источники доходов, способствуя при этом формированию более взаимосвязанной экосистемы.

Внедрение малых специализированных ИИ-моделей

Компании, стремящиеся внедрить такие модели, должны принять в расчет следующие рекомендации:

  • Запустите пилотные контекстуализированные модели: Внедрите малые, контекстуализированные модели в областях, где бизнес-контекст имеет решающее значение или где большие языковые модели не оправдали ожиданий в плане качества или быстроты ответа.
  • Используйте композитный подход: Выявите сценарии использования, где оркестрация одной модели не справляется, и вместо этого примените композитный подход, включающий несколько моделей и этапов рабочего процесса.
  • Совершенствуйте данные и навыки: Сделайте приоритетом подготовку данных, чтобы осуществлять сбор, проверку и упорядочение данных, необходимых для тонкой настройки языковых моделей. Одновременно инвестируйте в повышение квалификации персонала технических и функциональных подразделений: архитекторов ИИ и данных, исследователей данных, инженеров ИИ и данных, команд управления рисками и комплаенс-контроля, отдела закупок и экспертов по бизнес-вопросам, — чтобы эффективно продвигать эти инициативы.

Источник: Пресс-служба компании Gartner