Что такое RAG?RAG (Retrieval-Augmented Generation) — это архитектурный подход, который усиливает возможности больших языковых моделей (LLM). Он позволяет им генерировать ответы, опираясь не только на знания, полученные при обучении модели, но и обращаться к актуальной информации из внутренних и внешних источников компании. Механизм поиска и извлечения данных позволяет выдавать релевантные ответы с указанием источника информации. Технология не требует долгого кастомного обучения моделей, сокращает издержки на поддержку и обновление знаний и ускоряет поиск информации для сотрудников. RAG универсален и подходит для разных отраслей и задач. Среди наиболее распространенных сценариев применения — поиск по документации и базам знаний, умные FAQ-чат-боты и ИИ-суфлеры для сотрудников.
Далее мы рассмотрим реальные примеры внедрения RAG в EdTech. На основе реальных кейсов покажем, как эти сценарии работают в крупных компаниях, какие результаты приносят и почему именно RAG становится технологическим стандартом для корпоративных AI-систем.
Кейсы внедрения RAG в EdTechВ EdTech технологии RAG используются для создания интеллектуальных ассистентов, адаптивных образовательных платформ и систем эффективной обратной связи. Студенты могут обращаться к ИИ-ассистентам своих учебных заведений, чтобы быстро получать точные и полезные ответы на учебные вопросы. В этом направлении технологии RAG стали стандартом для персонализации обучения, поддержки студентов и автоматизации работы преподавателей и администраторов с большими образовательными массивами данных.
Duolingo | ИИ-поиск по корпоративной базе знанийСотрудники международной платформы для изучения языков терялись в огромном объеме корпоративных знаний, разбросанных по Google Drive, Slack, Confluence, Zendesk и другим сервисам. Это мешало быстро находить нужную информацию и замедляло адаптацию новеньких.
Чтобы упростить работу сотрудникам и сократить затраты на оплату труда, Duolingo внедрили AI-поиск по корпоративной базе знаний с доступом через ИИ-ассистента. Теперь все вопросы от поиска документа до уточнения рабочих процессов решаются через единую систему, которая агрегирует знания из всех корпоративных источников. Это позволило увеличить скорость поиска информации в 5 раз, сэкономить более 500 часов рабочего времени ежемесячно и снизить затраты компании на $1,1 млн в год только за счет оптимизации работы с корпоративными знаниями.
Источник: GleanHarvard Business School | ИИ-ассистент бизнес-курсаПреподаватель Гарвардской школы бизнеса Джеффри Бассанг разработал ИИ-ассистента ChatLTV для студентов своего бизнес-курса. Ассистент подключен к мессенджеру Slack и интегрирован с базой знаний, которая состоит из материалов курса, книг, методических указаний, постов из блога, а также архивных чатов из Slack. Благодаря RAG-архитектуре бот не ограничивается знаниями LLM, а «на лету» находит и компилирует самые релевантные фрагменты из обширного корпуса знаний в 200 файлов.
Из-за строгих правил защиты авторских прав в Гарвардской школе бизнеса нельзя допустить, чтобы материалы школы попали открытый доступ. Поэтому для работы ассистента используется не прямое подключение к ChatGPT по API, а интеграция через Microsoft Azure. В планах перенести бота на внутреннюю LLM-модель университета.
Источник: Jeffrey BussgangMcGraw Hill | Ассистент для учебных текстовMcGraw Hill — один из крупнейших издателей образовательной литературы, который создает цифровые учебные решения для школ, колледжей и вузов по всему миру.
RAG интегрирован в AI Reader, ассистента McGraw Hill для учебных текстов. С его помощью студенты могут получить разъяснения к любому фрагменту учебника на основе проверенной библиотеки издателя. Такой подход помогает ускорить процесс обучения, снизить процент неуспеваемости и существенно повысить точность обратной связи. Ассистент разъясняет сложные темы, поддерживает критическое мышление и вовлекает студентов в процесс обучения. RAG позволяет оказывать поддержку большему числу студентов без расширения штата методистов.
Источник: McGraw Hill