Новый тип ИИ-модели от создателя ChatGPT восхищает разработчиков

Главный смысл: Бывший исследователь OpenAI Диогу Алмейда, участвовавший в создании ChatGPT и RLHF, выпустил в стартапе TypeSafe AI модель Jev для автоматизации процессов. Она не генерирует текст, а возвращает заданные решения с оценкой вероятности — дешевле и быстрее больших языковых моделей на узких задачах.
-
Не LLM. Jev использует трансформерную архитектуру, но выдаёт «калиброванные решения». Поскольку набор выходов определяет пользователь, TypeSafe AI утверждает, что модель не галлюцинирует как генеративная система; вход тарифицируется миллиардами токенов, выходные токены заявлены бесплатными.
-
Первые тесты. Инженер Vercel Пранит Шарма сообщил, что после замены OpenAI ChatGPT Luna 5.6 в классификаторе безопасности команд Jev работала в 5–18 раз быстрее и точнее. CTO Bryo AI Никхил Мудхолкар получил у Gemini немного лучшую точность при классификации деловой почты, но оценил её стоимость как в 10–20 раз более высокую. Это отдельные пользовательские тесты, а не независимый бенчмарк.
-
Спрос и сценарии. После запуска нагрузка временно превысила возможности API TypeSafe AI. Jev рассматривают для маршрутизации запросов, проверки действий ИИ-агентов и выявления jailbreak-атак. CTO Earendil Армин Ронахер отмечает: порог доверия к вероятности всё равно задаёт пользователь. Алмейда говорит, что модель обучена только на синтетических данных методом «reinforcement learning from calibrated decisions», однако архитектура не раскрыта; догадка об основе из открытой LLM не подтверждена.
Что дальше: TypeSafe AI планирует версии Jev для новых модальностей, а Ронахер ожидает появления конкурентов. Нужны независимые сравнения точности, калибровки вероятностей, задержки и полной стоимости на реальных процессах: пока преимущества опираются на заявления компании и ограниченные тесты разработчиков. Неясно и то, насколько надёжно Jev работает вне заданных классов и предотвращает ли ошибки агентов, а не просто переносит решение о допустимом риске на человека.
Читать оригинал на TechCrunch ↗
Темы:OpenAI