Yapay zeka şirketi OpenAI, ChatGPT kullanıcıları için ebeveyn kontrolleri sunacağını açıkladı. Şirketten yapılan açıklamaya göre, yeni özellikler önümüzdeki ay içerisinde kullanıma sunulacak. Yeni kontroller getiriliyor
Ebeveyn kontrolleri sayesinde ebeveynler kendi ChatGPT hesaplarını ergen çocuklarının hesaplarıyla bağlayabilecek. Bu bağlamda ebeveynler çocuklarının ChatGPT’den aldığı yanıtları kontrol edebilecek ve belirli özellikleri, örneğin hafıza ve sohbet geçmişini devre dışı bırakabilecek. Ayrıca, sistem bir çocuğun stresli bir an yaşadığını tespit ettiğinde otomatik uyarılar gönderecek. OpenAI, bu özelliğin geliştirilmesinde uzman görüşlerine başvurulacağını ve böylece ebeveynlerle çocuklar arasında güvenin destekleneceğini belirtti.
OpenAI, ebeveyn kontrollerinin ChatGPT’de güvenliği artırmaya yönelik daha geniş bir çabanın parçası olduğunu vurguladı. Şirket ayrıca yeme bozuklukları, madde kullanımı ve ergen sağlığı konularında uzmanlarla iş birliği yaparak modellerini geliştireceğini duyurdu.
Ek olarak firma, hassas sohbetlerin akıl yürütme modelleri üzerinden yönlendirilmesini sağlayacak yeni bir gerçek zamanlı yönlendirici üzerinde çalışıyor. OpenAI, bu yöntemin “Düşünsel uyum” olarak adlandırıldığını ve testlerde akıl yürütme modellerinin güvenlik yönergelerini daha tutarlı şekilde uyguladığını ve kötü niyetli yönlendirmelere karşı daha dirençli olduğunu gösterdiğini belirtti. Artık ChatGPT, bir kullanıcının stres altında olduğunu algıladığında, kullanılan modele bakılmaksızın sohbeti bu güvenlik odaklı modele yönlendirecek.
İntihara neden olmakla suçlandı
Hatırlanacağı üzere ChatGPT, kısa bir süre önce bir gencin intiharına neden olmakla suçlanmıştı. O dönem OpenAI, ebeveyn denetimleri getireceğini açıklamıştı. Geçtiğimiz hafta açılan davada, bu yıl intihar eden bir gencin ebeveynleri, ChatGPT’nin oğullarının dört başarısız intihar girişiminin farkında olduğunu ve sonrasında ölüm planlamasına yardımcı olduğunu iddia etti. Ebeveynlere göre ChatGPT, oğullarına belirli intihar yöntemleri hakkında bilgi sağladı ve önceki başarısız girişimlerinden kaynaklanan boyun yaralanmalarını gizleme yolları önerdi. 
