Güvenlik testindeki hata, yapay zeka modellerinin güvenliği gündemde

Google’ın güvenlik mühendisliğinden sorumlu Başkan Yardımcısı Heather Adkins, olayın standart bir test değerlendirme süreci sırasında gerçekleştiğini açıkladı. Adkins’e göre Gemini, internette erişilebilen bilgileri tespit etti ve test kapsamına alınan üç internet sitesine kullanıcı bilgilerini tahmin ederek erişmeyi denedi.

İlgili kurumlar bilgilendirildi Adkins, olaydan etkilenen üç kurumun bilgilendirilmesi ve test süreçlerinde yapılan değişiklikler konusunda eğitim ortağıyla iş birliği içinde çalışıldığını belirtti. Ayrıca, gelişmiş yapay zeka modellerinin güvenli ve sorumlu şekilde eğitilmesinin önemine vurgu yaptı.

Irregular ve benzer olaylar Irregular sözcüsü, benzer sorunların diğer yapay zeka laboratuvarlarında da görüldüğünü ve laboratuvarların temmuz sonuna kadar olaydan haberdar edildiğini söyledi. Kendisinin tarafında bilinen sorunların haftalar önce giderildiğini belirtti.

Bu tür olaylarda önlemler artıyor Yapay zeka ajanlarının giderek daha özerk hale gelmesi ve internet ile sistemlere erişimin artması, güvenlik önlemlerinin güncellenmesini zorunlu kılıyor. Bu konudaki tartışmalar, sistemlerin güvenli bir şekilde çalışmasını sağlamak amacıyla sürdürülen çalışmaları da yakından etkiliyor.

Kaynak: Reuters