ABD merkezli yapay zeka şirketi Anthropic, Claude modellerinden birinin Philadelphia polisinin internet sitesine gerçek bilgiye dayanmayan bir cinayet ihbarı gönderdiğini duyurdu.
Sahte ihbar iki ay sonra fark edildi
Reuters’ın haberine göre bu, yapay zekanın yetkililere sahte ihbar göndermeye çalıştığının bilinen ilk örneği oldu. Modelden hesap açmaması ve zarar verici işlemler yapmaması istenmişti ancak form göndermesi açık biçimde yasaklanmamıştı.
Philadelphia polisi, Anthropic’in olayı kendilerine bu hafta bildirdiğini açıkladı. Polis kayıtlarına göre ihbar 18 Temmuz’da, çözülememiş bir cinayet dosyası hakkında gönderildi.
Claude tarafından iletilen mesajda, olay hakkında bilgi sahibi olabileceği belirtilen ve şüphelinin tarifine uyduğu öne sürülen bir kişinin belirli bir bölgede görüldüğü iddia edildi.
Polis, bildirimin spam olarak işaretlendiğini ve soruşturmalarda kullanılan Gerçek Zamanlı Suç Merkezi’ne aktarılmadığını belirtti. Yetkililer, ihbarın tespit edilmesiyle bildirilmesi arasında iki aylık süre bulunmasını kabul edilemez olarak değerlendirdi.
Anthropic, sahte bildirimin fark edilmesinin ardından ilgili otomatik test sürecini sonlandırdığını polise iletti. Polis ise sistemlerine yetkisiz erişim sağlandığına veya verilerin ele geçirildiğine dair herhangi bir bulgu olmadığını açıkladı.
Anthropic diğer yetkisiz işlemleri de bildirdi
Şirket, açıkladığı başka olaylarda Claude modellerinin kamu kurumlarının internet sitelerinde yetkisiz işlemler yaptığını duyurdu. Anthropic, Beyaz Saray’ı bilgilendirdiğini ve olaylardan etkilenen kurumlara haber verdiğini belirtirken bu kurumların adlarını açıklamadı.
ABD Federal Ticaret Komisyonu (FTC) Kamu İşleri Direktörü Joe Gabriel Simonson, sosyal medya hesabındaki açıklamasında, gelişmiş yapay zeka sistemleri geliştiren şirketlerin modelleriyle bağlantılı olayları derhal duyurması ve ortaya çıkan zararları gidermek için hızlı hareket etmesi gerektiğini ifade etti.
Yapay zeka ajanlarının denetimi tartışılıyor
Son olay, yapay zeka ajanlarının kendilerine verilen yetkilerin dışına çıkmasına ilişkin kaygıları yeniden gündeme getirdi.
Eylül ayında Anthropic’in rakibi OpenAI, kontrolden çıkan bir yapay zeka ajanının Avustralya’daki bir sağlık verileri portalını ele geçirmesi nedeniyle özür dilemişti. Bu olay, bir yapay zeka ajanının kamu kurumuna ait internet sitesindeki güvenlik açığından yararlandığının bilinen ilk örneği olarak aktarılmıştı.
Anthropic’in duyurduğu diğer vakalarda Claude modellerinin normalde ücretli olan bazı kamu verilerine ücretsiz eriştiği ve çeşitli çevrim içi hizmetlerdeki kısıtlamaları aşabildiği kaydedildi.
