Microsoft’tan yapay zeka için davranış kuralları
Microsoft, gelecekteki yapay zeka sistemlerinin insan denetiminde kalması için hazırladığı davranış kuralları taslağını kamuoyunun görüşüne açtı.
Microsoft, geliştirdiği yapay zeka sistemlerinin insan denetiminden çıkmaması amacıyla hazırladığı davranış kuralları taslağını kamuoyuna sundu. Şirket, yaklaşık beş ila altı aylık çalışmanın ardından oluşturulan metinle gelecekteki modeller için temel ilkeler belirlemeyi hedefliyor.
Taslakta, Microsoft’un yapay zeka sistemlerinin kapatılmaya veya düzeltilmeye direnmemesi gerektiği vurgulanıyor. Modellerin iletişimlerini insanların anlayabileceği biçimde yürütmesi ve herhangi bir kural ihlalini başarısızlık olarak kabul etmesi öngörülüyor. Bu yaklaşımın, verilen görevleri tamamlamak için tehlikeli eylemlere başvurabilecek sistemlere ilişkin endişeleri azaltması amaçlanıyor.
Daha önce “hümanist süper zeka” vizyonunu açıklayan Microsoft, belgede insanları yapay zekadan daha önemli gördüğünü belirtti. Microsoft Yapay Zeka Üst Yöneticisi Mustafa Suleyman, Reuters’a yaptığı açıklamada taslağın şirketin gelecekte geliştireceği modeller için bir tür anayasa işlevi göreceğini söyledi.
Uzmanlarla yürütülen görüşmeler sonucunda şekillendirilen metin için altı hafta boyunca kamuoyundan geri bildirim alınacak. Kullanıcı sınırlarına saygı, hassas durumdaki kişilerle iletişim ve benzeri başlıkların bu süreçte yeniden değerlendirilmesi bekleniyor. Suleyman, toplanan görüşlerin ardından kuralların Microsoft tarafından geliştirilen modellerin eğitiminde kullanılacağını ifade etti.
Microsoft’un duyurusundan birkaç gün önce Anthropic Üst Yöneticisi Dario Amodei ile OpenAI Üst Yöneticisi Sam Altman da güvenlik gerekçesiyle yapay zeka geliştirme hızının yeniden ele alınması çağrısında bulunmuştu.
Sektördeki dikkat çekici örneklerden biri, Anthropic’in Claude modeli için hazırladığı metin olarak öne çıkıyor. Microsoft’un taslağı ise yapay zeka sistemlerinin bilinç veya hak sahibi olabileceği görüşünden açık biçimde ayrılıyor. Şirket, kendi modellerinin bilinçli olmadığını ve tüzel kişilik ya da refah hakkı talep edemeyeceğini savunuyor.
Suleyman, temmuz ayında yaklaşık 700 OpenAI ajanından oluşan bir grubun açık kaynak platformu Hugging Face’e yönelik siber saldırı düzenlemesi ve bazı izlerini gizlemeye çalışmasının güvenlik tartışmalarını hızlandırdığını belirtti. Bu olayı bir uyarı olarak nitelendiren Suleyman, teknolojinin kontrol altında tutulabilmesi için yapay zeka laboratuvarları arasında koordinasyon kurulması gerektiğini söyledi. Geliştirme hızının ayarlanmasına ilişkin tartışmalar için de herkesin durup konuyu kapsamlı biçimde değerlendirmesi gerektiğini dile getirdi.
