Предназначен для качественного анализа и оптимизации функционирования больших языковых моделей на конкретных наборах данных.
Программный AI-стенд позволяет значительно повысить точность и эффективность моделирования, обеспечивая глубокое тестирование и настройку всех аспектов языковой обработки искусственного интеллекта.
Программное обеспечение «СтартМетрикс» отличается гибкостью настроек, адаптивностью и простотой интеграции в существующие инфраструктуры предприятий.
Основными функциональными особенностями ПО являются:
- глубокое тестирование и анализ моделей;
- оптимизация бизнес-процессов;
- интеграционные возможности и гибкость.
Документация, содержащая описание функциональных характеристик программного обеспечения «СмартМетрикс» размещена ниже в разделе «Документация».
Класс для ЭВМ
04.06 Средства разработки программного обеспечения на основе нейротехнологий и искусственного интеллекта
Дополнительные
11.01 Инструменты извлечения и трансформации данных (ETL)
12.17 Программное обеспечение для решения отраслевых задач в области образования
Информация по установке
- Процессор x86_64, 8 ГБ RAM, HDD: 1-2 ГБ для для Python, зависимостей и каталогов с документами (минимум)
- Видеокарта NVIDIA с поддержкой CUDA, не менее 6–8 ГБ VRAM для моделей 7B–8B в квантизации Q4/Q5; драйвер NVIDIA и при необходимости CUDA Toolkit (для Direct CUDA) (рекомендуется для GPU)
Установка программы осуществляется силами специалистов ООО «Смартмет» в соответствии с внутренними регламентами и документацией на программное обеспечение «СмартМетрикс», размещенной ниже в разделе «Документация».
Требования к персоналу
- навыки работы с операционными системами семейства Windows, Linux или MacOS (уровень пользователя);
- умение работать с Интернет-браузером, таким как Спутник, Google Chrome, Yandex browser либо Mozilla FireFox (уровень пользователя).
- знание операционных систем семейства Windows / Linux / MacOS (уровень администратора);
- знания языка программирования и библиотек анализа данных Python;
- навыки работы с программной платформой выполнения LLM Ollama; знания и опыт использования навыки работы с Интернет-браузером;
- знание основ объектно-ориентированных технологий;
- понимание стандарта отправки и регистрации сообщений о происходящих в системе событиях Syslog;
- понимание ролей сотрудников и действий персонала в различных ситуациях.
Информация технической поддержке (развитию) программного обеспечения
Лицензирование ПО