Стартап HiddenLayer, специализирующийся на защите систем искусственного интеллекта, привлек 50 миллионов долларов три года назад, когда рынок угроз для ИИ еще только формировался и реальных примеров масштабных атак было мало. Теперь компания, создающая инструменты против враждебных атак на модели и агентов, использует изменившуюся ситуацию, работая с финансовым сектором и IT-гигантами.
Почему рынок защиты ИИ изменился?
Как быстро все изменилось. Компании, занимающиеся безопасностью, теперь пытаются создавать продукты, которые могут контролировать не только агентов, но и инструменты и дополнения, которые они используют. Хотя по-прежнему не так много заголовков об эксплуатируемых агентах, риск того, что агенты будут работать во время производства, тем не менее, реален. По оценкам Gartner, в этом году компании потратят 2,83 миллиарда долларов на продукты, предназначенные для защиты инструментов ИИ, что на 83% больше, чем в 2025 году, и ожидает, что расходы достигнут почти 4,78 миллиарда долларов в следующем году.
HiddenLayer, которая создает инструменты для защиты моделей ИИ, агентов и рабочих процессов от враждебных атак, уязвимостей и вливаний вредоносного кода, смогла воспользоваться этим сдвигом. Его соучредитель и генеральный директор Крис Сестито (Chris Sestito) сообщил TechCrunch, что годовой доход стартапа за последний год вырос более чем в 10 раз. Он отказался назвать точную цифру, но сказал, что в настоящее время ARR находится в «десятках миллионов» долларов, и более 90% этого роста было обусловлено подписанием новых клиентов в прошлом году.
Финансовые услуги и крупные технологические компании, создающие продукты ИИ, в настоящее время являются крупнейшими вертикалями компании, а также имеют контракты с Министерством обороны и разведывательным сообществом. Один из его клиентов, по-видимому, является ведущим поставщиком пограничных моделей с более чем 700 миллионами еженедельных пользователей, что звучит как OpenAI или Anthropic для меня.
Кто инвестировал в HiddenLayer?
Чтобы максимально использовать этот импульс, стартап собрал 100 миллионов долларов в раунде финансирования серии B, который возглавлял Delta-v Capital, при участии Ten Eleven Ventures, Morgan Stanley, Microsoft M 12, Booz Allen Hamilton и других.
Стартап, базирующийся в Остине, в целом по-прежнему продает то, к чему он привык в 2023 году, но Sestito сказал TechCrunch, что самое большое изменение, которое он должен был сделать, — это расширить свои существующие продукты — обнаружение, защита от выполнения, моделирование атак и безопасность цепочки поставок — для решения проблем быстрого впрыска, манипулирования агентами и использования вредоносных инструментов.
«Вывод все еще остается выводом. Так что, будь то традиционная модель машинного обучения, будь то GenAI, будь то агентный рабочий поток, многие из наших технологий все еще применяются. Так что, на самом деле, нам не пришлось поворачиваться, но нам пришлось расширить сферу применения… от традиционного моделирования до GenAI и агентуры.
Сестито подчеркнул, что безопасность во время выполнения особенно стала приоритетом, поскольку развертывания ИИ становятся все более распространенными в разных компаниях и сравнивают его с традиционными решениями для обнаружения конечных точек и реагирования (EDR), но специально для ИИ.
Какие новые продукты появились у HiddenLayer?
Новые продукты компании отражают этот сдвиг, и Sestito подчеркнул новую возможность для злоумышленников в использовании моделей с открытым исходным кодом. «Мы анализируем и сканируем около 50 различных фреймворков файлов ИИ, чтобы убедиться, что, особенно в случае моделей с открытым исходным кодом, с открытым весом, что инструмент, с которым вы работаете, является тем, которым вы считаете, и это тот, которым он претендует быть. Мы смотрим на такие вещи, как модели, претендующие на то, чтобы быть одной вещью, но они — другая — скрытые модели внутри моделей.
Стартап говорит, что новые 100 миллионов долларов помогут ему построить в этом направлении, хотя с большим акцентом на продажи и дистрибуцию, продолжая расширять свои разработки и исследования. Он также планирует расширить свою деятельность в Европе и регионе EMEA.
Справится ли HiddenLayer с конкуренцией?
Тем не менее, HiddenLayer может найти себя, постукивая этим военным сундуком для большего. Крупные компании по кибербезопасности, такие как Cisco, Palo Alto Networks и Check Point, часто предпочитают покупать, а не создавать такие технологии, в то время как стартапы, такие как Noma и Zenity, собрали более 100 миллионов долларов каждый, чтобы взять на себя смежные или пересекающиеся области этого пространства.
Сестито признал, что некоторые части продуктов безопасности ИИ, которые предлагает его компания, могут быть в конечном итоге объединены в платформы, созданные такими компаниями, как Microsoft, OpenAI и AWS. Тем не менее, он ожидает, что инфраструктура ИИ будет развиваться в направлении таких функций управления, как обнаружение, идентификация и политический контроль, а не инструменты, которые создает его компания.
На данный момент, по его словам, работа HiddenLayer заключается в том, чтобы «поверхностно масштабироваться вместе с искусственным интеллектом» и в конечном итоге горизонтально расширяться в части кибербезопасности, которые все больше зависят от ИИ. Это амбициозная цель, но стартап сначала должен доказать, что он может превратить свой старт в устойчивый бизнес, прежде чем остальная часть отрасли наверстит упущенное.
Вопросы и ответы
Кто инвестировал в HiddenLayer в раунде серии B?
Раунд серии B на 100 миллионов долларов возглавила Delta-v Capital. Также участвовали Ten Eleven Ventures, Morgan Stanley, Microsoft M12 и Booz Allen Hamilton.
Какие новые продукты появились у HiddenLayer?
Компания расширила существующие продукты для решения проблем быстрого впрыска, манипулирования агентами и вредоносных инструментов. Также появилась возможность сканировать около 50 различных фреймворков файлов ИИ, чтобы обнаруживать скрытые модели внутри моделей.
Справится ли HiddenLayer с конкуренцией?
Конкуренты включают крупные компании, такие как Cisco, Palo Alto Networks и Check Point, а также стартапы Noma и Zenity, каждый из которых привлек более 100 миллионов долларов. HiddenLayer планирует масштабироваться и горизонтально расширяться в кибербезопасности.
