OpenAI’da görevlerine son verilen üç araştırmacı, daha bağımsız hareket eden yapay zeka sistemlerinin güvenlik denetiminin şirketlerden bağımsız kuruluşlarca yürütülmesi gerektiğini bildirdi.
Yönetim kuruluna güvenlik mektubu
Wall Street Journal’ın (WSJ) haberine göre yapay zeka güvenliği alanında çalışan araştırmacılar, şirketten ayrılmadan önce OpenAI yönetim kurulu üyelerine bir mektup gönderdi. Mektupta, yapay zeka modellerinin denetlenmesine ilişkin kaygılar paylaşıldı.
Gazetenin elde ettiği mektupta araştırmacılar, yapay zeka şirketlerinin geliştirdikleri sistemlerin akıl yürütme süreçlerini izleme ve kavrama yeteneğini yitirebileceği uyarısında bulundu.
Bağımsız denetim çağrısı
Araştırmacılar, giderek daha otonom hale gelen yapay zeka sistemlerinin yaratabileceği risklere karşı güvenlik kontrollerinin şirketlerden bağımsız kuruluşlar tarafından yapılmasını savundu.
“Denetlenemeyen modellerin nasıl güvenli geliştirileceği bilinmiyor”
Yapay zeka sektöründe, denetlenmesi zor modellerin güvenli şekilde geliştirilmesi ve kullanıma sunulması konusunda henüz yeterli bilgi olmadığını belirten araştırmacılar, OpenAI ile diğer öncü şirketleri uyardı.
Araştırmacılar ayrıca şirketlerin, yapay zeka sistemlerinin denetlenmesini daha da güçleştirecek bir geliştirme yaklaşımından uzak durması gerektiğini ifade etti.
OpenAI sözcüsü, WSJ’ye yaptığı açıklamada mektupta yer alan önerilere tamamen katıldıklarını söyledi. Sözcü, yapay zeka modellerinin denetlenebilmesinin şirket için büyük önem taşıdığını vurguladı.
İşten çıkarılma iddiası
Haberde, üç araştırmacının bir yapay zeka güvenliği şirketiyle gizli bilgi paylaştıkları iddiası nedeniyle işten çıkarıldığı öne sürüldü.
Araştırmacıların güvenlik denetimi konusundaki uyarıları, yapay zeka sistemlerinin yetenekleri ilerledikçe bu teknolojilerin nasıl kontrol altında tutulacağına ilişkin tartışmayı yeniden gündeme getirdi.
