Развёртывание локальных и on-premise LLM — это про управляемое внедрение ИИ под контролем вашей компании.
Что делает dgm
dgm проектирует и внедряет ИИ-сценарии на платформе osFoundry: аудит готовности, подготовка данных, выбор моделей, интеграция с 1С, ERP и CRM и сопровождение.
Данные и резидентность
Требование о локализации (Федеральный закон № 242-ФЗ, действует с 1 сентября 2015 года): запись, систематизация, накопление и хранение персональных данных граждан России должны вестись в базах данных, физически расположенных на территории РФ. В России нет регионов AWS, Microsoft Azure и Google Cloud — все три приостановили продажи в 2022 году. Поэтому резидентность данных обеспечивается отечественными облаками (Yandex Cloud, Cloud.ru, VK Cloud, MWS, Selectel, Rostelecom) либо развёртыванием on-premise.
Платформа и модели
osFoundry — это гибридная платформа оркестрации ИИ: модель BYOK (вы подключаете собственные ключи моделей), доступный исходный код (source-available), развёртывание в собственной инфраструктуре и локальная инференция (через llama.cpp), при которой данные не покидают ваш периметр. Поскольку osFoundry можно развернуть в собственной инфраструктуре и подключить отечественные или открытые модели, архитектурно платформа способна работать на российских серверах или on-premise — без зависимости от западного облака. Это путь к резидентности данных, а не готовая «коробка из-за рубежа». Модельный слой может быть полностью отечественным или открытым: YandexGPT (включая открытую YandexGPT-5-Lite-8B под Apache 2.0), GigaChat от Сбера (включая открытую GigaChat-20B-A3B), модели T-Bank (T-lite, T-pro), а также открытые веса Llama, Qwen, Mistral, DeepSeek. Всё это подключается через BYOK или запускается локально. Подключение — через BYOK.
Независимость и честность
dgm — независимый партнёр по интеграции (не аффилирован с osFoundry / OS LLC) и не является юридическим консультантом. У dgm пока нет завершённых клиентских интеграций, поэтому сценарии ниже описаны как типичные или возможные, а не как выполненные проекты.
Итог
Свяжитесь с dgm, чтобы обсудить ваш сценарий и спланировать архитектуру.