Стартап Safeworld привлек $12 млн для оценки безопасности ИИ-роботов

Проблема безопасности ИИ-роботов

Индустрия робототехники активно переходит на использование моделей генеративного ИИ, однако такая архитектура работает на вероятностной основе. В отличие от традиционных алгоритмов, поведение подобных систем сложнее прогнозировать, что создает риски при их массовом внедрении на производствах. По словам создателей, для полноценного развертывания автономных машин необходимо не только минимизировать риски, но и сформировать уровень доверия со стороны общества и бизнеса.

Стартап Safeworld основали доктор Динг Жао, руководящий лабораторией Safe AI в университете Карнеги-Меллона, опытный топ-менеджер стартапов Кайл Вонг и инженер по машинному обучению Симо Рачиди. Инвесторами в посевном раунде также выступили Box Group, фонд университета Карнеги-Меллона, Innovation Endeavors и SV Angel. Партнер a16z Speedrun Джонатан Лай отметил, что стандарты индустриальной безопасности необходимо закладывать уже сейчас, до массового появления роботов в домах и на предприятиях.

Виртуальное тестирование и симуляции

Главная специализация Safeworld заключается в оценке систем управления роботами с помощью виртуальных сред и симуляций, населенных реалистичными моделями людей. Такой подход напоминает задачи разработчиков беспилотных автомобилей вроде Tesla или Wayve, которым требуется готовить технику к дорожным инцидентам. При этом задача для робототехники усложняется тем, что машины функционируют в неструктурированных условиях, а на разных объектах действуют индивидуальные стандарты безопасности.

В рамках тестирования специалисты создают цифровую копию проблемного участка помещения, например слепого поворота на фабрике, в таких движках, как Genesis или MuJoCo. Туда помещают модель робота под управлением реального программного обеспечения и прогоняют тысячи сценариев взаимодействия с людьми. Подобные проверки позволяют моделировать сложные непредсказуемые ситуации, такие как спотыкание и падение человека, которые трудно воссоздать в реальности.

Партнерство с производителями и перспективы

Разработчики роботов считают создание независимой системы аудита критически важным шагом, так как традиционные математические формулы и уравнения не могут гарантировать абсолютную безопасность вероятностных систем. Одним из партнеров Safeworld выступает компания Gritt Robotics, создающая ИИ-мозг для роботов, которые помогают рабочим устанавливать фотоэлектрические панели на солнечных электростанциях и выполняют задачи в строительстве. Роботы этого партнера действуют бок о бок с людьми, поэтому инженерам необходимо учитывать любые возможные варианты поведения и внешности человека.

Люди на производственных площадках могут стоять, стоять на коленях, бегать, наклоняться или падать, а также отличаться ростом, телосложением и одеждой. Safeworld видит свою задачу в том, чтобы выступать в качестве независимой третьей стороны для валидации подобных систем и обмена информацией о безопасности между конкурентами. В настоящее время основатели компании еще определяются с окончательной бизнес-моделью своего продукта — будет ли это универсальная платформа для внешних пользователей или оказание услуг на заказ.

Что это значит для пользователей

• Компания Safeworld пока не сообщила точные цены и условия доступа к своей платформе, поскольку находится на ранней стадии и еще выбирает формат работы с клиентами.
• Технология в первую очередь полезна разработчикам робототехники и промышленным предприятиям, которые внедряют автономные машины на базе генеративного ИИ в неструктурированной среде.
• Обычным пользователям и работникам предприятий решение поможет снизить риски столкновений с роботами в условиях слепых зон и непредсказуемых человеческих движений.
• В отличие от традиционных статических тестов или ручной проверки формулами, подход Safeworld опирается на массовые вероятностные симуляции с вариативными человеческими моделями в виртуальной среде.

Источник: techcrunch.com

• Safeworld
• робототехника
• искусственный интеллект
• a16z
• безопасность ИИ

Обсудить в Telegram