Растущее количество стартапов с многомиллиардной оценкой соревнуются в создании лучших моделей искусственного интеллекта, способных выполнять задачи от программирования и музыки до юридической работы. Генеральный директор стартапа Goodfire Эрик Хо считает, что развитие ИИ происходит слишком быстро.
«Я думаю, то, что мы делаем сейчас, довольно безрассудно», — сказал он. «Как мы можем доверять и полагаться на то, чего не понимаем?»
Поскольку работа ИИ во многом остаётся загадкой даже для разработчиков, Goodfire сосредоточен на изучении моделей ИИ, чтобы понять, что они на самом деле делают, и использовать эти знания для улучшения технологий. Стартап только что привлёк $150 млн в рамках раунда Series B, оценка компании достигла $1,25 млрд. Сделку возглавила компания B Capital при участии Menlo Ventures и Lightspeed Venture Partners.
Goodfire стал очередным стартапом, привлекшим миллионы на исследование ИИ, присоединившись к группе компаний, иногда называемых neolabs. Некоторые из них имеют астрономические оценки. Например, выпускники OpenAI Мира Мурати и Илья Сутскевер привлекли миллиарды долларов для своих стартапов Thinking Machines Labs и Safe Superintelligence соответственно. Новый лабораторный проект Humans& недавно привлёк $480 млн. Исследователь ИИ Ричард Зохер ведёт переговоры с инвесторами о финансировании своей лаборатории с оценкой в $4 млрд. Основанный в 2024 году, Goodfire сосредоточен на интерпретируемости — науке о понимании работы моделей ИИ, их отладке, поиске новых инсайтов в коде и улучшении производительности.
Это сложно, потому что веса, определяющие работу модели ИИ, написаны на языке, непостижимом для человека. Когда разработчики сталкиваются с проблемой в модели, им приходится полностью переобучать её, так как они не могут понять существующий код весов для отладки, объяснил Хо.
Чтобы преодолеть этот языковой барьер, Goodfire создаёт интерпретаторные модели, которые фактически картируют «ум» ИИ-модели. Затем, по словам Хо, эти интерпретаторные модели могут выполнять «мозговую хирургию», улучшая модель или получая из неё новые инсайты. Например, лаборатория Prima Mente разработала ИИ-модель, которая показывала потенциал в прогнозировании болезни Альцгеймера, но команда не полностью понимала, как формировались прогнозы. Технология интерпретаторов Goodfire смогла выявить новый класс биомаркеров болезни Альцгеймера внутри модели Prima Mente, основываясь на связях, которые модель делала, а человек ранее не замечал.
Goodfire сотрудничает с такими клиентами, как Microsoft, Mayo Clinic и некоммерческим институтом Arc Institute. Некоторые используют лабораторию для создания собственных ИИ-инструментов на базе существующих моделей, а другие — разработчики моделей, стремящиеся улучшить свои продукты.
На сегодняшний день Goodfire привлёк $209 млн. Хо заявил, что лаборатория добилась прогресса в создании интерпретаторных моделей для чтения и отладки существующего кода ИИ. С новыми инвестициями Goodfire планирует работать над переобучением моделей ИИ для повышения их эффективности, а также увеличить расходы на вычислительные мощности и новых сотрудников. «Мне не нравится текущая траектория развития ИИ — мы собираемся внедрять системы, которые не понимаем, повсюду», — сказал Хо. «Я считаю, это плохо, и хочу это изменить».
