22 июня Baseten объявила о привлечении $1,5 млрд в раунде серии F. Ведущие инвесторы — Altimeter Capital, Conviction и Spark Capital, со-лидами выступили Sands Capital и Wellington Management; в раунде также участвовали IVP, Greylock, Battery Ventures, Durable Capital и D. E. Shaw Ventures. Деньги пришли двумя траншами по оценкам $13 млрд и $11 млрд — редкая конструкция, отражающая, что инвесторы заходили в разные моменты переговоров. Суммарно компания подняла уже больше $2 млрд.
Baseten делает то, что ещё пару лет назад считалось скучной обвязкой: инференс — запуск моделей в проде. Управление GPU, автоскейлинг, наблюдаемость, биллинг, маршрутизация между облаками. По собственным данным компании, платформа обрабатывает более 1 млрд обращений к моделям в сутки на 87 кластерах в 18 облаках, а выручка за год выросла примерно в 20 раз. Среди клиентов — компании уровня Cursor и Abridge, то есть те самые AI-продукты, которые сами по себе растут по экспоненте.
Логика раунда простая. Стоимость обучения моделей уплывает к нескольким гигантам, а вот обслуживание — где и как крутится модель, сколько стоит один ответ, как не потерять пользователя на холодном старте — становится полем, где идёт настоящая конкуренция за деньги. Открытые и закрытые модели сблизились по качеству, и выигрывает тот, кто дешевле и стабильнее их подаёт. Основатель и CEO Тухин Шривастава говорит, что деньги пойдут на compute и наём в инженерию, исследования и продажи.
Что здесь для разработчика. Появился внятный карьерный трек, которого пять лет назад не существовало как отдельной профессии: inference / platform engineer — человек на стыке ML и классического SRE. Не обучение моделей (туда нужен PhD и кластер), а всё, что вокруг: квантизация и оптимизация под железо, батчинг, кэширование, холодные старты, стоимость запроса, мониторинг качества ответов. Это инженерия, а не наука, и она открыта для сильного бэкендера.
Для Беларуси и Восточной Европы это, возможно, самая доступная точка входа в AI-рынок. Здесь исторически сильный пул people с опытом highload, Kubernetes, распределённых систем — ровно тот бэкграунд, который переиспользуется в инференсе почти без потерь. Не нужно переучиваться на data scientist, чтобы работать в AI-инфраструктуре: нужно уметь держать нагрузку, считать деньги за запрос и разбираться в GPU-планировании.
Комментарии