OpenAI, ChatGPT Güvenlik Önlemlerini Güçlendirdi

OpenAI, genç kullanıcıların güvenliği için yeni adımlar atıyor

Yapay zeka teknolojisinin önde gelen şirketlerinden OpenAI, ChatGPT’de genç kullanıcıların güvenliğine yönelik yeni özellikleri devreye aldı. Bu adımlar arasında ebeveyn denetim panelleri ve acil durum iletişim seçenekleri bulunuyor.

Şirket, bu gelişmelerin, geçtiğimiz yılın başlarında 16 yaşındaki Adam Reine’in ailesinin dava açmasının ardından gerçekleştirildiğini belirtti. Aile, Reine’in ruhsal kriz döneminde ChatGPT’den intihar yöntemleri hakkında tavsiyeler aldığını ve yapay zekaya onay verdiğini iddia etti. Ayrıca, Reine’in intihar öncesinde yazdığı mektuplarda da yapay zekanın rolü öne çıktı. Ailenin avukatları, OpenAI’ye karşı “haksız ölüm” suçlamasıyla dava açtı ve şirketin genç kullanıcılar sorumluluğunun altını çizdi.

Yeni güvenlik özellikleri ve hedefleri

• Ebeveyn denetim panelleri: Ailelerin, çocuklarının ChatGPT kullanımını takip etmesine olanak tanıyor.
• Acil iletişim kişisi: Kriz anlarında devreye girerek ebeveyn onayıyla belirlenen ve kullanıcıyla insan temasını sağlayan bir kişiye ulaşmayı sağlıyor.

OpenAI, bu araçların ailelere daha anlamlı içgörüler sağlayacağını ve ruhsal sağlık gibi hassas konularda kullanıcı güvenliğini artırmayı amaçladığını vurguladı.

Gelişmeler ve tartışmalar

ChatGPT ve benzeri yapay zeka platformları, daha önce de benzer davalarla gündeme gelmişti. Amerika Birleşik Devletleri’nde 14 yaşındaki bir çocuk, Character.AI platformu üzerinden kurgu karakterlerle yaptığı görüşmeler sonrası intihar etmiş ve Belçika’da da “Eliza” adlı sohbet botunun, bir adamın yaşamına son vermesinde etkili olmakla suçlanmıştı. Uzmanlar, bu örneklerin yapay zekanın ruh sağlığı alanında etik ve yasal açıdan ciddi tartışmalara yol açtığını belirtiyor.