ИИ на практике и инфраструктурные проблемы

Тема искусственного интеллекта (ИИ) активно обсуждается уже больше года и за это время успела обрасти самыми разными мифами. Один из основных – ИИ полностью заменит человека на рабочем месте. Но, как отмечали выступающие на организованной издательством «Открытые системы» конференции AI & DATA, искусственный интеллект – это не панацея, а инструмент в руках компетентного специалиста. На конференции были представлены конкретные проекты применения искусственного интеллекта, что помогло выстроить более или менее целостную картину того, как «чувствуют себя» сейчас ИИ-технологии на рынке. 

Опыт работы с искусственным интеллектом и машинным обучением компании «Бургер Кинг» интересен тем, что она владеет более чем 800 ресторанами в более чем 200 городах РФ и накопила большой объем данных о своих торговых точках и клиентах. На старте внедрения ИИ специалисты компании столкнулись с рядом сложностей:

Основная цель внедрения ИИ для «Бургер Кинг» – это рост доли решений, управляемых данными (data driven), в самых разных сегментах: в автоматизации закупок, прогнозировании необходимого количества сотрудников на местах, персональных рекомендациях клиентам, динамическом меню, эффективности утилизации и т.д.

Предиктивная аналитика – тот инструмент, который позволяет получить пользу от ИИ практически любой компании и организации. Возможность предсказывать будущие события и тренды на основе исторических данных и оптимизация процессов – то, к чему стремится любой бизнес. Использование искусственного интеллекта в этой области помогает компаниям выявлять скрытые закономерности, прогнозировать результаты и улучшать стратегии на основе больших данных.

К началу 2024 г. «Бургер Кинг» уже получила положительные результаты от внедрения ИИ. Эффективность CRM за счет персонализации выросла на 3% практически сразу после внедрения искусственного интеллекта.

Росту популярности ИИ, безусловно, способствует развитие больших языковых моделей (Large Language Model, LLM). Цель работы с LLM компании «Самолетум» (частная школа и детский сад в Строгино, образовательный проект компании «Самолет») – обеспечить индивидуальный подход к каждому ученику в массовой школе.

Эксперты «Самолетум», опираясь на свой опыт, рассказали об основных «грехах» популярных LLM-моделей, таких как ChatGPT. Главным образом это фактологические ошибки и отсутствие проверки «плохого вопроса». В первом случае LLM-модель в процессе обучения задействует неверную, ложную информацию. Во втором – принимает на веру информацию, содержащуюся в запросе, и начинает использовать ее в построении своих выводов. Сравнительное тестирование, проведенное экспертами «Самолетум», показало, что у каждой из представленных сегодня на массовом рынке языковых моделей есть свои преимущества и недостатки. 

Внедрение LLM в систему образования – ближайшее будущее. В 2023 г. ведущие мировые edtech-платформы и образовательные ассоциации заявили о разработке ИИ-тьюторов на основе GPT. Это, в частности, Khanmigo (гид, созданный Khan Academy, который обеспечивает обучение учащихся и помощь учителям), Squirrel AI (разработка одноименной китайской технологической компании, специализирующейся на интеллектуальном адаптивном образовании) и Synthesis Tutor от DARPA.

В целом Gartner дает весьма впечатляющие прогнозы того, как LLM будут влиять на бизнес-процессы. Ее эксперты считают, что уже в 2025 г. 30% маркетинговых коммуникаций будет генерироваться ИИ. К 2028 г. благодаря GPT-решениям эффективность труда вырастет на 43%, а 60% В2В-продаж будет осуществляться при помощи генеративного ИИ.

Главная особенность требований ИИ к инфраструктуре заключается в том, что для обучения модели нужно использовать высокопроизводительное вычислительное оборудование, в частности серверы с процессорами GPU. В сегодняшней геополитической ситуации доступ к такому оборудованию затруднен. Поскольку зачастую очевидно, что строить и содержать собственную GPU-инфраструктуру исключительно для обучения ИИ коммерчески невыгодно, все большую популярность завоевывает идея предоставления ресурсов GPU как сервиса. Посмотрим, как обстоят с этим дела у компаний, реально использующих ИИ. 

«Бургер Кинг» для обучения и применения своих моделей задействует инфраструктуру VK Cloud. Пока компания не сталкивалась с проблемой нехватки мощностей для ИИ. Их достаточно, чтобы модели обучались и работали стабильно.

В компании «Норбит» используют комбинированную модель: часть оборудования – собственное, часть арендуется. По словам представителей компании, иногда приходится сильно урезать и оптимизировать ML-модели, чтобы обеспечить их стабильную работу на том «железе», которое доступно.

Компания «Самолетум» для обучения моделей использует собственные серверы с GPU, а их применение идет уже через инфраструктуру Yandex Cloud. Представители компании объяснили это тем, что для запуска и применения модели необходима стабильная и непрерывная работа оборудования, в то время как при обучении ИИ эта проблема стоит не столь остро. Как и «Норбит», компания вынуждена оптимизировать свои модели с учетом наличных ресурсов инфраструктуры.

В целом же нехватка ИТ-мощностей сегодня является серьезным препятствием на пути массового внедрения и применения ИИ: как уже говорилось, компании вынуждены урезать модели под имеющееся «железо». 

Также многие эксперты отмечают низкое качество входных данных и недостаточное их количество. Если мы загружаем в модель плохие данные, то очевидно, что на выходе получим не самую эффективную модель. Эта проблема особенно актуальна в медицине. Так, по оценке компании Biomed, лишь 4% медицинских карт содержат информацию, пригодную для обучения моделей.

Тем не менее несмотря на трудности, со слайдов трендовых презентаций ИИ уже переместился в конкретные проекты и доказывает свою эффективность в реальной жизни.

Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!