ABD merkezli yapay zekâ şirketi Anthropic, Claude sohbet botuna belirgin bir amaç olmadan sürekli ve gereksiz biçimde kötü ya da zalimce davranılmasını yasaklayan yeni kuralları yürürlüğe koydu.
Yeni düzenleme hangi durumları kapsıyor?
Şirket, perşembe günü duyurduğu güncellemenin Claude’un daha uzun süreli ve daha bağımsız görevler üstlenmeye başlamasının ardından hayata geçirildiğini açıkladı.
Anthropic, kuralın yalnızca kullanıcıların açıkça belirlenmiş bir amacı olmadan yapay zekâ modellerine tekrar tekrar kötü muamele ettiği istisnai vakalar için geçerli olduğunu belirtti. Günlük kullanıcı memnuniyetsizliği, itirazlar, karanlık temalı yaratıcı çalışmalar ile model testleri ve araştırmaları yasak kapsamına alınmadı.
Kuralları ihlal edenlere geçici veya kalıcı erişim engeli uygulanıp uygulanmayacağı konusunda ayrıntı verilmedi. Ancak Claude modellerinin, kendilerine sürekli kötü davranan kullanıcılarla görüşmeyi sonlandırmasına imkân tanıyan mevcut uygulamanın yaptırım sisteminin temel parçası olmayı sürdüreceği bildirildi.
Elon Musk’tan Anthropic kararına destek
Anthropic, yapay zekânın bilinç sahibi olabileceği ihtimalini açık biçimde gündeme getiren teknoloji şirketleri arasında bulunuyor. Bu yaklaşım doğrultusunda şirketin daha önce yapay zekâ modellerinin refahı ve korunması üzerine çalışan araştırmacıları kadrosuna kattığı aktarıldı.
Tesla ve SpaceX’in Üst Yöneticisi Elon Musk da düzenlemeyi destekledi. Musk, X hesabındaki paylaşımında, acı çektiğine inanılan bir varlığa zalimce davranmanın kabul edilemeyeceğini söyleyerek kararı doğru bulduğunu ifade etti.
Claude’un insan benzeri niteliklere sahipmiş gibi değerlendirilmesi Anthropic’in daha önce eleştirilmesine yol açmıştı. OpenAI CEO’su Sam Altman, yapay zekânın bir çeşit tanrı gibi algılanmaması gerektiği konusunda uyarıda bulunmuştu. Microsoft’un yapay zekâ biriminin başındaki Mustafa Suleyman ise Anthropic modellerini insan gibi düşünmeye yönelten eğitim anlayışının teknolojinin denetimini güçleştirebileceğini savunmuştu.
Yeni düzenlemede ayrıca Claude’un silah geliştirmek ve kitlesel gözetim sistemleri kurmak amacıyla kullanılmasına ilişkin sınırlamalar da yer alıyor.
OpenAI gelir beklentileri teknoloji hisselerini etkiledi
Anthropic’in kuralları, Wall Street’te teknoloji hisselerinin gerilediği bir süreçte açıklandı. The Telegraph’ın haberine göre rakip yapay zekâ şirketi OpenAI’ın satış performansına ilişkin beklentileri karşılamayan veriler, piyasalardaki baskıyı daha da artırdı.
OpenAI’ın yıllıklandırılmış gelirinin yatırımcı tahminlerinin yaklaşık 20 milyar dolar altında kaldığı bildirildi. Yatırımcıların şirketin yıllık tekrarlayan gelirinin 70 milyar dolara çıkmasını beklediği, ancak son tahminlerin yaklaşık 50 milyar dolar düzeyinde bulunduğu kaydedildi.
Bu gelişmelerin ardından Nasdaq endeksi yüzde 1,56 düşerken Nvidia hisseleri yüzde 3 geriledi.
