ABD’de yaklaşan ara seçimler öncesinde OpenAI ve Anthropic, yapay zeka platformlarında doğru bilgi akışını korumak ve olası manipülasyonlara hızlı yanıt vermek için ilk kez özel izleme ekipleri oluşturuyor.
Şirketler seçim dönemi için “savaş odası” kuracak
Semafor’un haberine göre iki teknoloji şirketi, seçim sürecinde “savaş odası” (war room) olarak tanımlanan özel operasyon merkezleri kurarak olası ihlalleri ve platform kurallarına aykırı kullanımları anlık olarak takip edecek.
Üretken yapay zeka dezenformasyon riskini değiştiriyor
Seçim dönemlerinde özel izleme merkezleri oluşturulması, teknoloji platformlarında ilk kez 2018 yılında Meta tarafından uygulanmıştı. Üretken yapay zekanın yaygınlaşması ise seçim güvenliği açısından karşılaşılan tehditlerin niteliğini farklılaştırdı.
- Gerçeğe yakın deepfake içerikler: Sahte video ve görsellerin hızla yayılması, bilgi kirliliğiyle mücadeleyi güçleştiriyor.
- Hatalı arama yanıtları: Yapay zeka destekli arama sistemlerinin tutarsız veya yanlış bilgiler üretmesi yeni bir risk alanı oluşturuyor.
Geçtiğimiz hafta Google’ın AI Mode hizmetinin 2020 ABD başkanlık seçimlerinin galibine ilişkin sorulara yanıt verememesi de bu sorunu gündeme taşımıştı. Google, problemin çözümü için çalışma başlatıldığını açıklamıştı.
OpenAI ve Anthropic’in müdahale planı
Anthropic sözcüsü, seçim güvenliğini güçlendirmeye yönelik ekiplerin yıl boyunca çalıştığını belirtti. Sözcü, platformun kötüye kullanımını gerçek zamanlı izleyecek özel operasyon ekibinin hazır olduğunu açıkladı.
OpenAI ise ChatGPT ve bağlantılı araçlarda doğru bilgiye erişimi desteklemek, ayrıca dezenformasyon girişimlerini canlı biçimde izlemek amacıyla benzer bir operasyon merkezi kuracak.
Uzmanlar hızlı müdahalenin önemine dikkat çekiyor
Meta’nın eski kamu politikaları direktörü Katie Harbath, bu tür kriz merkezlerinin öngörülemeyen gelişmeleri hızla değerlendirmek ve önceliklendirmek açısından kritik olduğunu söyledi. Harbath’a göre ekipler, gerekli müdahale süreçlerini de zaman kaybetmeden başlatabiliyor.
