Anthropic’ten yapay zekâ için acil kapatma düğmesi
Anthropic kurucu ortağı Jack Clark, tehlikeli hale gelen yapay zekâ sistemleri için üçüncü taraf denetiminde bir acil kapatma düğmesi önerdi.
ABD merkezli yapay zekâ şirketi Anthropic’in kurucu ortaklarından Jack Clark, yapay zekâ alanındaki risklere ilişkin BBC’ye değerlendirmelerde bulundu. Clark, yazılımların toplum için ciddi bir tehdit oluşturacak kadar tehlikeli hale gelmesi durumunda tamamen devre dışı bırakılabilmelerini sağlayacak mekanizmaların gelecekte kurallarla güvence altına alınabileceğini söyledi.
Anthropic başta olmak üzere birçok şirketin farklı kapatma yöntemleri kullandığını belirten Clark, acil kapatma düğmesi uygulamasının gereklilikleri ve nasıl denetleneceğinin daha kapsamlı yapay zekâ politikaları çerçevesinde ele alınması gerektiğini ifade etti.
BBC’nin, şirketlerin böyle bir sistemi zorunlu olarak bulundurup bulundurmaması ve düğmenin üçüncü bir tarafın kontrolünde olup olmaması gerektiğine ilişkin sorusunu yanıtlayan Clark, bunun toplumun bilmek ve ileride düzenlemeye bağlamak isteyebileceği bir konu olduğunu dile getirdi.
Yapay zekânın insanlığın tamamını yok etme ihtimaline dair bir oran vermekten kaçınan Clark, bu tür istatistiklerin faydalı olmayacağını belirtti. Buna karşın yapay zekâ sektörünün bütünüyle denetimsiz bırakılmasının kötü bir fikir olduğunu söyleyen Clark, sektörün büyük riskler alarak adeta kumar oynadığını ve mevcut gidişatın değiştirilmesi gerektiğini savundu.
Öte yandan OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak görev yapan Jacob Coxon, iki şirketin yapay zekâ geliştirme süreçlerinde yeterince sorumlu davranmadığını öne sürerek Anthropic’ten ayrılmıştı. Coxon, şirketlerin kendi kendini geliştirebilen sistemler konusunda kontrolsüz bir yarış yürüttüğünü ve bu sistemlerin yakın gelecekte her şeyi hackleyebilecek insanüstü yapılara dönüşebileceğini iddia etmişti.
Coxon ayrıca, yapay zekâ modelleri üzerinde çalışan bazı sektör mensuplarının, söz konusu sistemlerin önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açabileceğine ciddi biçimde inandığını ileri sürmüştü.
