Frontier AI modellerini güvence altına almak için düzensiz 80 milyon dolar yükselti

Çarşamba günü, AI güvenlik firması Düzensiz, WIZ CEO’su Assaf Rappaport’un katılımıyla Sequoia Capital ve Redpoint Ventures liderliğindeki bir turda 80 milyon dolarlık yeni finansman duyurdu. Anlaşmaya yakın bir kaynak, turun 450 milyon dolarlık düzensiz değer verdiğini söyledi.

Kurucu ortağı Dan Lahav, “Yakında, AI-On-On-On-Ai etkileşiminden çok sayıda ekonomik faaliyetin geleceği,” dedi.

Eskiden desen laboratuvarları olarak bilinen düzensiz, AI değerlendirmelerinde zaten önemli bir oyuncu. Şirketin çalışması güvenlik değerlendirmelerinde belirtilmiştir Claude 3.7 sonnet için birlikte Openai’s O3 ve O4-Mini modelleri. Daha genel olarak, şirketin bir modelin güvenlik açığı tespit yeteneğini puanlama çerçevesi (Dublajlı Solve) sektörde yaygın olarak kullanılmaktadır.

Düzensiz modellerin mevcut riskleri üzerinde önemli çalışmalar yapmış olsa da, şirket daha da iddialı bir şeye göz atarak para toplıyor: vahşi doğada ortaya çıkmadan önce ortaya çıkan riskleri ve davranışları tespit etmek. Şirket, bir modelin yayınlanmadan önce yoğun check edilmesini sağlayan ayrıntılı bir simüle ortam sistemi oluşturdu.

Kurucu ortağı Omer Nevo, “AI’nın hem saldırgan hem de defans oyuncusu rolünü üstlenen karmaşık ağ simülasyonlarımız var” diyor. “Yani yeni bir mannequin ortaya çıktığında, savunmaların nerede durduğunu ve nerede yapmadıklarını görebiliriz.”

Güvenlik, daha fazla threat ortaya çıktıkça sınır modellerinin ortaya koyduğu potansiyel riskler olduğu için AI endüstrisi için yoğun bir odak noktası haline gelmiştir. Openai, bu yaz iç güvenlik önlemlerini potansiyel kurumsal casusluğa göz önünde bulundurarak elden geçirdi.

Aynı zamanda, AI modelleri, hem saldırganlar hem de savunucular için ciddi etkileri olan bir güç olan yazılım güvenlik açıklarını bulma konusunda giderek daha yetersizdir.

Düzensiz kurucular için, büyük dil modellerinin büyüyen yeteneklerinden kaynaklanan birçok güvenlik baş ağrısından ilkidir.

Lahav, “Frontier Lab’ın amacı giderek daha sofistike ve yetenekli modeller yaratmaksa, amacımız bu modelleri güvence altına almaktır” diyor. “Ama bu hareketli bir hedef, bu yüzden doğası gereği gelecekte yapılacak çok, çok daha fazla iş var.”