Стартап Recursive представил ИИ-модель для кода Flint, созданную с помощью ИИ
ИИ-стартап Recursive выпустил свою первую модель Flint для написания кода, которая почти полностью создана с помощью собственной исследовательской системы Eureka Machine.
Разработка с помощью Eureka Machine
Компания Recursive создала модель Flint при активном участии своей автоматизированной исследовательской системы Eureka Machine. По заявлению компании, система помогала практически на каждом этапе разработки от предварительного обучения до инференса, позволив небольшой команде собрать модель менее чем за четыре месяца.
Eureka Machine способна самостоятельно генерировать идеи, проводить эксперименты и использовать результаты для оптимизации архитектуры. В частности, система помогла создать разреженную форму модели, применить низкобитовое обучение и написать пользовательские ядра для ускорения вычислений.
Использование таких автоматизированных методов отражает общую тенденцию в отрасли. Ранее OpenAI сообщала, что ее ИИ-агенты выполняют значительный объем работы исследователей, а долгосрочная цель Recursive заключается в создании полноценной системы рекурсивного самосовершенствования под контролем человека.
Архитектура и производительность модели
Flint представляет собой модель типа mixture-of-experts с общим количеством параметров 40 миллиардов, из которых для каждой конкретной задачи задействовано только 2,5 миллиарда. Такая архитектура позволяет запускать систему локально на обычных ноутбуках без отправки данных на облачные серверы.
В ходе внутренних тестов на MacBook Pro с чипом Apple M4 Pro модель генерировала около 131 токена в секунду, а на Nvidia RTX Spark этот показатель превысил 150 токенов в секунду. На бенчмарке SWE-Bench Verified модель Flint превзошла другие решения с числом параметров менее 50 миллиардов.
Стартап Recursive был основан в прошлом году и в мае вышел из режима скрытности с финансированием в размере 650 миллионов долларов при оценке в 4,65 миллиарда долларов. Компанию возглавляет генеральный директор Ричард Сочер, бывший главный научный сотрудник Salesforce.
Распространение и условия использования
Модель распространяется бесплатно и доступна для скачивания на платформе Hugging Face. Продукт лицензирован под лицензией Apache 2.0, которая разрешает свободное использование и модификацию кода пользователями.
Локальный запуск модели на персональном компьютере позволяет разработчикам работать в офлайн-режиме, сохранять конфиденциальность исходного кода и не платить комиссии облачным сервисам за обработку запросов. Компания отмечает, что Flint может требовать большего участия со стороны пользователя и деления крупных задач на мелкие шаги по сравнению с крупными платными ассистентами.
Что это значит для пользователей
- Модель полезна разработчикам для написания и отладки кода прямо на ноутбуке без отправки данных в облако, что обеспечивает полную приватность.
- Flint доступна абсолютно бесплатно на платформе Hugging Face под открытой лицензией Apache 2.0.
- Для запуска требуется устройство с достаточным объемом памяти, а разработчики отмечают, что для сложных задач модель требует более детальных инструкций, чем крупные облачные аналоги.
- В отличие от облачных сервисов, Flint работает локально без абонентской платы и зависимости от интернет-соединения.
Источник: techcrunch.com
Обсудить в Telegram
