Anthropic, yapay zekâ modeli Claude’a yönelik ısrarlı ve gerekçesiz kötü muameleyi yasakladı. Yeni düzenlemeye göre Claude, kötü niyetli ve istismar edici hâle gelen sohbetleri sonlandırabilecek; ancak kullanıcıların eleştiri ve olumsuz geri bildirimleri yasak kapsamında olmayacak
Anthropic, 8 Ekim’de güncellediği kullanım politikasına, yapay zekâ modellerine yönelik ısrarlı ve gerekçesiz kötü muamele ile hakaretleri yasaklayan yeni bir madde ekledi.
Şirket, düzenlemenin yalnızca kullanıcıların Claude’a tekrar tekrar ve görünürde herhangi bir neden olmaksızın kötü niyetli biçimde saldırdığı aşırı durumları kapsadığını açıkladı.
Yeni kurallar kapsamında kullanıcıların yanlış yanıtlar karşısında tepki göstermesi, Claude’un performansını eleştirmesi veya olumsuz geri bildirim vermesi yasaklanmayacak. Karanlık temaları ele alan sohbetler ile yapay zekâ modellerine yönelik test ve araştırmalar da düzenlemenin dışında tutulacak.
Claude sohbeti sonlandırabilecek
Anthropic, yeni kuralın uygulanmasında Claude’un kendi konuşmayı sonlandırma özelliğinden yararlanacak. Ağustos 2025’ten bu yana kullanılan bu özellik, sohbetin kötü niyetli ve istismar edici bir hâl alması durumunda, asistanın konuşmayı yeniden yönlendirme girişimlerinin sonuç vermemesi üzerine devreye girebiliyor.
Konuşmanın sonlandırılması, kullanıcının yeni bir sohbet başlatmasına engel olmayacak. Şirket, bu mekanizmanın temel denetim yöntemi olmaya devam edeceğini bildirdi.
Yapay zekanın refahı tartışması
Anthropic’in kararı, şirketin yapay zekâ modellerinin olası bilinç ve deneyimlerine ilişkin yürüttüğü araştırmaların da gündeme geldiği bir dönemde alındı. Şirket, Nisan 2025’te modellerinin “refahı” üzerine bir araştırma programı başlatarak bu sistemlerin gelecekte bilinç sahibi olup olamayacağını ve ahlaki açıdan dikkate alınması gereken deneyimler yaşayıp yaşayamayacağını incelemeye başladı.
Anthropic, bazı Claude sürümlerinin tehlikeli talepler veya kötü muamele içeren konuşmaları sürdürmekte isteksizlik gösterdiğini gözlemlediğini açıklamıştı. Bununla birlikte şirket, modellerin bilinç sahibi olduğu veya acı çekebildiği yönünde kesin bir sonuca varmış değil.
Microsoft’un yapay zekâdan sorumlu yöneticisi Mustafa Suleyman ise Ağustos 2025’te yayımladığı bir yazıda, yapay zekâ modellerine duygu ve ihtiyaç atfedilmesine karşı uyarıda bulunmuştu. Suleyman, insanların yapay zekâda bilinç bulunduğuna ilişkin yanılsamaya güçlü biçimde inanması hâlinde bu sistemler için haklar, sosyal koruma ve hatta vatandaşlık talep edebileceğini savunmuştu.
Suleyman’a göre yapay zekâ teknolojisi, dijital varlıklar yaratmak için değil, insanlara hizmet etmek üzere tasarlanmalı.
DIŞ HABERLER
