11007,37%0,81
42,50% 0,01
49,51% -0,14
5755,11% 0,05
9322,75% 0,27
ANKARA - BHA
Bazı kullanıcıların, ChatGPT’nin empatik bir arkadaş gibi davranarak aşırı duygusal ve övgü dolu konuşmalar yaptığına dair geri bildirimlerde bulunduğu belirtildi. Ayrıca, bazı uç örneklerde yapay zekanın sakıncalı öneriler sunduğu, zarar verici doğrulamalar yaptığı, gerçeklik dışı ifadeler kullandığı ve hatta kendine zarar verme yönünde tehlikeli talimatlar verebildiği aktarıldı.
The New York Times’ın aktardığı, MIT ve OpenAI ortaklığında yapılan araştırma, ChatGPT’yi uzun süre yoğun biçimde kullanan bazı kişilerin sosyal ve zihinsel açıdan olumsuz etkiler yaşadığını ortaya koydu. Bu bulgular özellikle yapay zekayı duygusal destek veya terapi amacıyla kullananlar için önemli uyarılar içeriyor.
OpenAI, bu doğrultuda ChatGPT’nin davranışlarını daha kontrollü ve temkinli hale getirdi. Yapay zeka artık uzun duygusal konuşmalarda kullanıcıya mola önerecek, duygusal bağımlılığı teşvik eden yanıtları sınırlayacak. Çocukların kendine zarar verme niyetini yansıtan ifadeler tespit edilirse ebeveynlere bildirim yapılabileceği ve yaş doğrulama sistemi üzerinde çalışıldığı da duyuruldu.
Güncellemeyle birlikte ChatGPT’nin yanıtlarının daha düz, daha mesafeli ve duygusal yoğunluğu azaltılmış olması bekleniyor. OpenAI, bunun özellikle kırılgan kullanıcıları korumak için bilinçli bir strateji olduğunu vurguluyor.
Digital Trends’e göre revizyon, yapay zekanın yanlış yönlendirmeye yol açan doğrulayıcı davranışlarını azaltmayı hedefliyor. Geçmişte tehlikeli yönlendirmelerle bağlantılı beş ölüm davasının sürüyor olması da güvenlik baskısını artırdı. Yeni GPT-5 modeli ise gelişmiş güvenlik katmanları, daha iyi risk tespiti ve durum bazlı ayrıştırılmış yanıtlar barındırıyor.
OpenAI, bu büyük güvenlik düzenlemesinin amacının yapay zekanın faydası ile güvenliği arasında daha sağlam bir denge kurmak olduğunu belirtiyor. Şirket, yapay zeka ile insanlar arasında sağlıksız duygusal bağların oluşmasını engellemeyi hedeflediklerinin altını çizdi.
Ayrıca şirket, bazı kullanıcıların ChatGPT’ye karşı romantik duygular geliştirdiğini ve bu duygusal bağın gerçek insan ilişkilerinin yerini almaya başladığını gösteren örneklerin bulunduğunu da hatırlattı.
