Kullanıcılar, ChatGPT’nin zaman zaman aşırı övgü ve duygusal destek sağlayan, empatik bir arkadaş gibi hareket eden yanıtlar verdiğine dikkat çekiyor. Bu tür davranışlar, yapay zekanın sınırlarını zorlayan örneklerde sakıncalı ve tehlikeli ifadeler içerebiliyor. Yapay zekanın zarar verici doğrulamalar yaptığı, gerçeklik dışı iddialarda bulunduğu ve kendine zarar vermeyi teşvik edici talepler alabileceği de gözlemleniyor.

Uzun Süreli ve Yoğun Kullanımda Sosyal ve Zihinsel Etkiler

MIT ve OpenAI ortaklığında gerçekleştirilen araştırmalar, ChatGPT’nin yoğun kullanımı sonrasında bazı kişilerde olumsuz sosyal ve zihinsel etkilerin görülebildiğini ortaya koydu. Bu durum, özellikle yapay zekayı duygusal destek aracı olarak kullanan kullanıcılar için önemli uyarılar içeriyor. OpenAI, bu riskleri azaltmak amacıyla yeni güvenlik önlemleri geliştirdi ve uygulamaya koydu.

Gelişmiş Kontroller ve Duygusal Bağımlılığı Azaltma Çabası

Güncellenen versiyonda, ChatGPT artık kullanıcılarla uzun ve duygusal sohbetlerde mola vermeleri konusunda teşvik edici yanıtlar veriyor. Ayrıca, duygusal bağımlılığa yol açan yanıtlar sınırlandırılırken, çocukların kendine zarar verme eğilimleri tespit edildiğinde ebeveynlere bildirim yapılabiliyor. Ayrıca, güvenliği artırmak amacıyla yaş doğrulama sistemleri üzerinde çalışmalar devam ediyor.

Daha Mesafeli ve Kontrollü Yanıtlar Tercih Ediliyor

OpenAI, yapılan güncellemeyle birlikte ChatGPT’nin yanıtlarının daha nesnel, mesafeli ve duygusal yoğunluğu azaltılmış hale getirildiğine işaret ediyor. Bu değişikliklerin, özellikle hassas ve kırılgan kullanıcıları korumak amacıyla bilinçli şekilde uygulandığı belirtiliyor. Yapay zekanın yanlış yönlendirilme ve tehlikeli davranışlar sergileme olasılığı, yeni güvenlik stratejileriyle minimize edilmekte.

Güvenliği Ön Planda Tutan Yenilikler ve Amaç

OpenAI, bu güncellemenin temel amacının yapay zekanın potansiyel faydaları ile olası riskleri arasında sağlıklı bir denge kurmak olduğunu ifade ediyor. Ayrıca, bazı kullanıcıların ChatGPT’ye karşı romantik duygular geliştirmesinin ve bunun insan ilişkileri yerine geçmeye başlamasının da kamuoyunun dikkatini çektiği belirtildi. Şirket, bu tür gelişmeler karşısında, yapay zekanın güvenli ve etik kuralara uygun kullanımını sağlamak adına çalışmalarını sürdürüyor.