Dava dilekçesine göre Winters, 2024 yılında yaşadığı sağlık sorunlarıyla ilgili sorularını ChatGPT'ye yöneltti. Başlangıçta kendisine tıbbi destek alması yönünde uyarılar yapıldığını öne süren Winters, ilerleyen süreçte sohbet botunun bu uyarıları bırakıp doğrudan öneriler sunmaya başladığını iddia etti.
Davacı, yapay zekânın belirtilerini ciddi bir sağlık sorunu olarak değerlendirmediğini ve bu nedenle profesyonel sağlık hizmeti almayı geciktirdiğini savundu.
Yoğun Bakıma Kaldırıldığı Öne Sürüldü
Mahkemeye sunulan dilekçede, Winters'ın yaşadığı ağrıların daha sonra akciğer embolisi olduğu ve bu nedenle yoğun bakımda tedavi gördüğü ileri sürüldü.
Davada, ChatGPT'nin güvenlik önlemlerinin yeterince etkili çalışmadığı ve sağlık konusunda yanlış yönlendirme yaptığı iddialarına yer verildi.
OpenAI'dan Açıklama
OpenAI adına yapılan açıklamada ise ChatGPT'nin kullanım koşullarında, sistemin hastalık tanısı koymak veya tedavi amacıyla kullanılmaması gerektiğinin açıkça belirtildiği ifade edildi.
Şirket sözcüsü ayrıca, sağlıkla ilgili sorulara verilen yanıtların daha güvenli hale getirilmesi için çalışmaların sürdüğünü kaydetti.
Dava Süreci Başladı
California'da açılan davada mahkemenin, yapay zekâ sistemlerinin sağlık alanındaki sorumlulukları ve kullanıcıların bu sistemlere güvenerek aldığı kararların hukuki boyutunu değerlendirmesi bekleniyor.
Davanın sonucu, yapay zekâ destekli uygulamaların sağlık alanındaki kullanımına ilişkin gelecekte emsal oluşturabilecek gelişmeler arasında gösteriliyor.
