Українська хмарна інфраструктура De Novo повідомила про результати бета-тестування нової платформи для роботи з мовними моделями Lapathoniia. Система призначена для хостингу та інтеграції українських LLM, передає dev.ua.
Під час тестування платформа витримала значний наплив користувачів без критичних збоїв. Пікове навантаження сягало 61 млн токенів на добу. Також фіксувалися окремі піки утилізації обчислювальних ресурсів до близько 80% на понад 11 тисячах запитів.
У De Novo зазначили, що серверна інфраструктура залишалася стабільною навіть під час різких стрибків навантаження. Водночас деякі інтегровані інструменти, зокрема вебпошук, стикалися з обмеженнями через ліміти запитів.
Під час тестування перевіряли роботу українських моделей LapaLLM та MamayLM. Оцінювали розуміння української мови, переклад між українською та англійською, узагальнення текстів, виконання інструкцій і розв’язання навчальних завдань.
Нагадаємо – у травні Lapathoniia оголосила про запуск ШІ-асистента Lapathoniia Chat, який працює на базі вітчизняних великих мовних моделей. Інфраструктуру сервісу розгорнули в Україні на хмарній платформі De Novo.
