14 февраля 2025 г.
Искусственный интеллект применяется на практике год от года всё шире. Но по большей части не автономно, а в виде умных чат-ботов либо более специализированных программ, главная задача которых — консультировать живого пользователя (оператора) по тем или иным вопросам, помогать ему в выполнении рутинных задач, анализировать для него большие массивы данных — словом, действовать на подхвате. Полнофункциональные же ИИ-агенты, готовые целиком и полностью брать на себя работу живых людей на определённых участках, спросом пока что не пользуются, — и коммерсанты отнюдь не торопятся их внедрять, невзирая на все самоочевидные выгоды.
ИИ-агенты определяют как системы (либо программы — если речь идёт только об операциях с данными), готовые к автономному исполнению каких-либо действий и решению задач на основании собираемой и анализируемой ими же самими информации, с привлечением при необходимости сторонних инструментов. Простейший ИИ-агент — умный термостат, которому поставлена задача поддерживать определённую температуру в помещении: скажем, он не будет просто увеличивать мощность кондиционера, если холоднее всё не становится, а сперва проверит датчики закрытия дверей и окон (либо определит состояние тех по кадрам системы видеонаблюдения), и если канал утечки холода налицо, как минимум сообщит человеку о невозможности выполнения задачи, а в случае полностью интегрированной системы умного дома — закроет такой канал с применением предусмотренных конструкцией сервоприводов.
В бизнесе, соответственно, ИИ-агент так же автономно должен выполнять поставленные перед ним деловые задачи: не просто генерировать, к примеру, рекламный баннер, но и договариваться (либо с человеком, либо со схожей умной системой на стороне партнёра) о его размещении на определённой площадке и проч. Так вот, у коммерсантов даже в США, где генеративные технологии на данный момент наиболее активно торят себе дорогу буквально во всех хозяйственных сферах, к ИИ-агентам отношение, мягко говоря, прохладное.
На прошедшем недавно крупном слёте ИТ-директоров страны, CIO Network Summit, организованном изданием The Wall Street Journal, был проведён опрос — на тему, в частности, того, каким образом в компаниях участников уже применяются ИИ-агенты. Выяснилось, что против всех ожиданий на третий год всемирной генеративной революции (если отсчитывать её с осени
Главная претензия опрошенных CIO к автономным генеративным системам заключается в откровенной ненадёжности последних. И это, как отмечают представители проводившего слёт издания, напрямую противоречит широко распространяемым разработчиками ИИ-агентов (в числе которых OpenAI, Microsoft, Sierra и многие другие) нарративам о скором, вот уже буквально в ближайшие годы, если не кварталы, повсеместном вытеснении живых сотрудников ИИ-агентами. Целый ряд экспертов, в том числе аналитики Goldman Sachs, принимает эти россказни настолько всерьёз, что уже считает главным вызовом нынешнего года для топ-менеджмента в наиболее развитых странах проблему управления ИИ-агентами как наёмным персоналом, — имеется в виду эффективная организация совместной работы умных ботов и постепенно замещаемых ими в штате людей на наиболее ответственных участках без ущерба для бизнес-процессов практикующих такую замену компаний.
На деле же — если смотреть глазами всё тех же ИТ-директоров, что напрямую имеют дело с ИИ-агентами в реальном рабочем окружении, — ни о какой масштабной замене людей ботами в обозримой перспективе речь не идёт. Три четверти опрошенных The Wall Street Journal CIO признались, что отдача от сделанных их компаниями за последнее время в ИИ инвестиций если и есть, то величина её минимальна, — то есть в лучшем случае компании не потеряли вложенные средства. Значительная доля внедривших ИИ-инструменты бизнесов находятся в ситуации, метко описанной одним из участников опроса как «есть молоток, ищу гвозди», — реальных задач, которые можно было бы без опасений за качество их решения передоверить ИИ-агентам, у коммерсантов, как выясняется, исчезающе мало.
Основная причина недоверия к генеративным моделям всё та же, какой и была на самой заре ИИ-бума, — склонность их к галлюцинациям, т. е. к выдаче заведомо не соответствующих действительности, но гладко и убедительно изложенных ответов на заданный вполне предметный вопрос. Частоту появления галлюцинаций последовательно снижают, в том числе добавляя моделям «рассудительности» (reasoning), однако сама архитектура многослойных плотных нейросетей, лежащая в основе генеративного ИИ, делает невозможной стопроцентную гарантию отсутствия этой крайне неприятной с практической точки зрения особенности.
А значит, до тех пор, пока на смену нынешним реализациям искусственного интеллекта не придут более совершенные, принципиально свободные от галлюцинаций, доверия к ним бизнес испытывать не будет, — и потому угроза тотальной замены сотрудников компаний на ИИ-агенты продолжит оставаться малореальной. По крайней мере, на тех участках, где принятие того или иного решения (человеком ли, ботом ли) напрямую влияет на коммерческие показатели данного конкретного бизнеса, руководство которого до сих пор раздумывает, инвестировать ли в ажиотажное направление ИИ — или всё же повременить.
Источник: Максим Белоус, IT Channel News
