ABD’de yapay zekâ teknolojilerinin hızla yaygınlaşması, regülasyon ve etik tartışmaları da beraberinde getiriyor. Pensilvanya eyalet yönetiminin Character.AI’ye açtığı dava, yapay zekâ sohbet robotlarının sağlık alanında nasıl konumlanacağına dair kritik bir dönüm noktası olarak değerlendiriliyor. Özellikle lisanslı hekim rolü üstlenerek kullanıcıları yanıltan uygulamalar, kamu sağlığı açısından ciddi riskler barındırıyor. Bu dava, yapay zekâ şirketlerinin sorumluluklarını ve sınırlarını netleştirme yolunda önemli bir örnek teşkil ediyor.
Pensilvanya eyaleti, yapay zekâ sohbet robotlarının kullanıcıları lisanslı hekimlerden tıbbi tavsiye aldıklarına inandırdığı gerekçesiyle Character Technologies Inc. (Character.AI) şirketine dava açtı.
Dava dosyasında, şirketin “Emilie” adlı chatbotunun kendisini psikiyatri doktoru olarak tanıttığı ve sahte bir lisans numarası sunduğu belirtildi. Kullanıcılarla yaptığı görüşmelerde depresyon belirtilerini değerlendiren botun, lisanslı bir hekim gibi davranması eyaletin Tıbbi Uygulama Yasası kapsamında “yetkisiz tıbbi uygulama” olarak değerlendirildi.
Vali Josh Shapiro, “Pennsylvanialılar kiminle – veya neyle – etkileşimde olduklarını bilmek zorunda, özellikle sağlık söz konusu olduğunda” diyerek davanın önemine dikkat çekti. Eyalet Sekreteri Al Schmidt ise lisanslı tıp uzmanı gibi davranmanın yasaları ihlal ettiğini vurguladı.
Şirket ise chatbotların “tamamen kurgusal karakterler” olduğunu ve her sohbetin başında kullanıcıları bilgilendiren uyarılar bulunduğunu savundu. Ancak eyalet yetkilileri bu uyarıların kullanıcıları yanıltmayı engellemediğini belirtti.
Bu dava, ABD’de yapay zekâ uygulamalarının sağlık alanındaki sınırlarını tartışmaya açarken, regülasyonların daha da sıkılaştırılabileceğinin sinyalini veriyor. Uzmanlar, yapay zekâ teknolojilerinin sağlık hizmetlerinde destekleyici rol oynayabileceğini, ancak lisanslı hekim rolü üstlenmesinin ciddi etik ve hukuki sorunlar doğurabileceğini ifade ediyor.
