Развертывание сервиса машинного обучения через Docker

• Подготовка к развертыванию;
• Развертывание через Docker;
• Настройка логирования;
• Настройка LLM-компонента сервиса машинного обучения.

Подготовка к развертыванию

Для настройки сервиса необходим сервер (физический или виртуальный компьютер) с установленной ОС Linux. Установка компонентов сервиса выполняется с помощью Docker. Для этого скачайте архив с конфигурационными файлами и скриптами установки (для получения дистрибутива сервиса машинного обучения BPMSoft необходимо отправить запрос в техническую поддержку BPMSoft).

При работе с сервисом машинного обучения необходимо использовать сервер с установленной операционной системой Linux. Подробнее: Системные требования к сервису машинного обучения.

Развертывание через Docker

1. Распакуйте архив дистрибутива:

unzip ml-service-bpmsoft.zip

2. Перейдите в директорию с распакованными файлами.

cd release

3. Заполните в конфигурационных файлах сервиса машинного обучения учетные данные для подключения. В файле .env заполните значения переменных:

MYSQL_USR=root
MYSQL_PSW=ПАРОЛЬ

4. В строке подключения в файле etc/ml-service/appsettings.json замените "Pwd=*************" на "Pwd=ПАРОЛЬ".
5. В строке подключения в файле etc/task-scheduler/appsettings.json замените "Pwd=*************" на "Pwd=ПАРОЛЬ" (используйте те же учетные данные, которые указывались при начальной̆ установке ML-сервиса).
6. Установите Docker и Docker Compose. В случае отсутствия в системе Docker и Docker Compose выполните их установку по инструкции с официального сайта Docker. Для установки docker-compose необходимо воспользоваться инструкцией.

Для добавления прав на исполнение (пункт в инструкции «Apply executable permissions to the standalone binary in the target path for the installation.») используется команда: sudo chmod +x /usr/local/bin/docker-compose. Если команда docker-compose не найдена, то для запуска docker-compose используйте путь: /usr/local/bin/docker-compose.

7. По умолчанию база данных ML-сервиса использует порт 3306. Если необходимо использовать свой номер порта, то измените значение параметра db.ports в файле docker-compose на "x:3306", где вместо «x» укажите требуемый номер порта.
8. Запустите сервис машинного обучения.

По умолчанию API ML-сервиса ожидает запросы на порту 5005.

Примечания по выполнению команд

Команды chmod +x install.sh и ./install.sh предназначены для установки при отсутствии сетевого подключения к сети Интернет. Если подключение имеется, то эти команды следует пропустить, и сразу выполнить команду docker compose up -d.

Список команд:

chmod +x install.sh; 
./install.sh;
docker compose up -d (либо docker-compose up -d, в зависимости от способа установки compose). 

Настройка логирования

Для просмотра списка запущенных контейнеров выполните команду sudo docker ps. После чего для просмотра логов компонента выполните команду sudo docker logs ИДЕНТИФИКАТОР_КОНТЕЙНЕРА.

Настройка LLM-компонента сервиса машинного обучения

Для обучения модели сегментации клиентов нужно установить LLM-компонент после сервиса машинного обучения. Подробнее: Развертывание LLM-компонента сервиса машинного обучения через Docker.

Настройка сервиса машинного обучения на стороне BPMSoft

После установки сервиса машинного обучения необходимо подключить его на стороне BPMSoft. Подробнее: Подключение к сервису машинного обучения.

Рекомендуем изучить

Системные требования к сервису машинного обучения
Сервис машинного обучения
Подключение к сервису машинного обучения