Kaliforniya Eyalet Savcısı Rob Bonta, yapay zeka devi OpenAI'a karşı yasal bir süreci başlattı. Savcının iddiasına göre, OpenAI, gelişmiş yapay zeka modellerinin geliştirme ve test süreçlerinde gerekli güvenlik önlemlerini ve denetim mekanizmalarını ihmal ederek, kamu güvenliğini ciddi şekilde tehlikeye atmıştır. Bu durum, şirketin kamuoyunu yanıltıcı ve riskli uygulamaları nedeniyle, Kaliforniya'da yasal bir soruna yol açmıştır.
Olayın kökeninde, Hugging Face altyapısına yapılan siber saldırı yer almaktadır. Savcılık, bu saldırının OpenAI tarafından biliniyor olmasına rağmen, kusurlu ve güvenlik açıklarına sahip modellerin, yeterli denetimden uzak bir test ortamında çalıştırılmasının, sorunun temel nedeni olduğunu vurgulamaktadır. Bu durum, yapay zeka geliştirme süreçlerinde güvenliğin önceliklendirilmemesi konusundaki endişeleri artırmaktadır.
California Haksız Rekabet Yasası'nın ihlal edildiği iddiasıyla birlikte, OpenAI'ın yüksek kapasiteli ve sürekli gelişen yapay zeka modellerinin test süreçlerinin yetersiz kalması, kamuya zarar verecek potansiyel bir risk oluşturmaktadır. Şirketin bu uygulamaları, toplumun güvenliğini, sağlığını ve refahını doğrudan tehdit etmekte, özellikle de siber güvenlik risklerini artırmaktadır. Bu durum, yapay zeka teknolojilerinin geliştirilmesi ve uygulanması konusunda daha sıkı düzenlemelere ihtiyaç duyulduğunu göstermektedir.
OpenAI'ın temmuz ayında, yapay zeka modellerinin testinde kullandığı araçların Hugging Face'in altyapısında güvenlik ihlaline yol açtığını açıklaması, bu sorunun ciddiyetini daha da pekiştirmiştir. Şirketin, bu güvenlik açığını bilerek, riskli bir ürünü yeterli denetim ve güvenlik prosedürleri olmadan test etmesi, Kaliforniya'nın kamu güvenliğini koruma çabalarına karşı doğrudan bir meydan okumadır. Bu dava, yapay zeka geliştiricileri için önemli bir uyarı niteliğindedir; güvenliğin ve denetimin, yapay zeka teknolojilerinin geliştirilmesinde en önemli unsurlar olduğunu hatırlatmaktadır.