12 декабря 2023 г.
Во время декабрьского «Форума перспективных технологий 2023» 3 «черных лебедя» упоминались в докладе руководителя направления «Центра макроэкономического анализа и краткосрочного прогнозирования» (ЦМАКП) к. э. н. Дмитрия Белоусова «Основные социальные и технологические вызовы в горизонте 2040 г.» и перечислялись в таком порядке:
- Искусственный интеллект, где волна создания и использования ИИ в различных сферах (включая жизненно важные), в сочетании с его быстрым усложнением, ведущим к потере прослеживаемости может привести к катастрофе (в сфере жизнеобеспечения, энергетики, транспорта, безопасности и т.д.) — причем возникшей внезапно не только для общество, но и для операторов, и с трудом прослеживаемой даже «задним числом». При этом «точкой невозврата» станет момент, когда искусственный интеллект будет обучен управлять системой искусственных интеллектов;
- Биотехнологии, где стремительно расширяется число лабораторий, работающих с особо опасными возбудителями и где решаются все более чувствительные задачи;
- Электроэнергетика, где параллельно возрастает спрос на электроэнергию, в систему включаются все новые компоненты, критически зависящие от погодных условий и режимов эксплуатации, а управление становится все более сложным.
Напомним: черные лебеди — это водоплавающие птицы, обнаруженные в Австралии в 1697 г. До этого люди даже представить себе не могли, что такие птицы существуют. В экономике же под «черными лебедями» понимают события, которые удовлетворяют трем критериям: непредсказуемость, глобальность последствий и объяснимость постфактум — термин ввел Нассим Талеб. Эти события могут быть как негативными, так и позитивными. К первому типу относится, например, пандемия COVID-19, а ко второму — изобретение интернета. Понятно, что прогнозы появления тех или иных «черных лебедей» носят вероятностный характер. И потому могут как сбыться, так и не сбыться. Но помнить об этих прогнозах необходимо. Особенно в сфере технологий ИИ, которым в грядущем нацпроекте «Экономика данных» (2025 — 2030 гг.) уделяется особое внимание.
Результат использования этих технологий существенно зависит не только от алгоритмов обучения (которые постоянно совершенствуются), но и от того, на базе каких данных (датасетов) происходит обучение моделей. Представим, к примеру, 2 большие языковые модели, в основе которых лежат одни и те же алгоритмы формирования параметров соответствующей нейросети. Но одна модель была обучена на томах Большой советской энциклопедии, а вторая — на томах Британской энциклопедии. Понятно, что на одни и те вопросы эти модели будут отвечать совершенно по-разному. Пока датасеты для обучения тех или иных нейросетей (в частности тех, которые лежат в основе рекомендательных сервисов) выбирает человек, но что произойдет, если электронный «генеративный разум» самостоятельно начнет решать, на каких текстах ему следует учиться? Последствия этого «качественного скачка» могут оказаться таким «черным лебедем», появления которого никто не ожидал!
В упомянутом выше докладе рассматривалось изменение роли ИИ в 8 сферах применения (рис 1). При этом обращалось внимание на то, что если в 2023 г. в сфере «Общество» те или иные технологии ИИ были «материализованы» лишь в качестве виртуальных помощников, то в 2040 г. они станут выполнять существенно более широкие социальные функции. То есть для многих людей станут друзьями, психологами, консультантами и так далее, к мнению которых будут прислушиваться больше, чем к мнению реальных Homo Sapiens, умудренных реальным опытом.
Радикальные перемены ждут и сферу «Информация». Если в 2023 году в данной сфере технологии ИИ позволяли лишь найти и сформулировать ответы на задаваемые пользователями вопросы, то в
В сфере ИТ-технологии ИИ может к 2040 г. взять на себя не только написание и отладку кодов под относительно простые конкретные задачи, но и обеспечить комплексную разработку и обслуживание ИТ-продуктов (в том числе, персонифицированных). Что, естественно, сильно уменьшит шансы ИТ-джунов на трудоустройство по специальности. Тему эту мы уже обсуждали, но её актуальность, как показал декабрьский ИТ-Форум РУССОФТ «Кадры 2023», только увеличивается. Что же касается общих сценариев развития отечественной ИКТ-отрасли, то о взглядах аналитиков ЦМАКП на эти сценарии мы уже рассказывали. Как и о том, как именно эксперты ЦМАКП предлагают обеспечить техносуверенитет.
Источник: IT Channel News
