Bilimsel doğruluk, toplumun güveni için vazgeçilmezdir. Yapay zekâ sistemlerinin sahte bir hastalığı gerçekmiş gibi sunması, hem teknolojinin sınırlarını hem de sorumluluklarını gözler önüne seriyor. Bu haber, yalnızca bilginin değil, bilginin kaynağının da sorgulanması gerektiğini hatırlatıyor.
Gözleriniz ağrıyor ve kaşınıyor mu? Muhtemelen ekranlara çok fazla bakarak, mavi ışığa maruz kalan milyonlarca insandan birisiniz. Gözlerinizi çok fazla ovuşturursanız, göz kapaklarınız hafif pembe bir renge dönüşebilir.
Şimdiye kadar her şey normal. Ancak son 18 ay içinde bu belirtileri çeşitli popüler sohbet robotlarına yazıp kendinizde neyin yanlış olduğunu sorsaydınız, garip bir cevap almış olabilirdiniz: “bixonimania“!!!!!!!!
Nature dergisinde yayımlanan haberde, Bixonimania adlı hayali bir hastalığın aslında var olmadığı, yalnızca sahte akademik makalelerde yer aldığı ortaya kondu. Buna rağmen bazı yapay zekâ sohbet botları, kullanıcıları bu hastalık hakkında uyararak yanlış bilgi yaydı.
Scientists invented a fake disease. AI told people it was real
İsveçli araştırmacı Almira Osmanovic Thunström, yapay zekanın tıbbi bilgi süzgecini test etmek için dâhiyane (ve biraz da muzip) bir deney tasarladı. Mavi ışık nedeniyle gözlerde kararma ve ağrı yapan “Bixonimania” adlı uydurma bir hastalık için akademik görünümlü makaleler hazırladı; Göteborg Üniversitesinde tıp araştırmacısı olan Almira Osmanovic Thunström liderliğindeki bir ekip, deneysel çalışma kapsamında 2024’te “Bixonimania” adında bir hastalık uydurdu. Kurgu hastalığın sebebi ‘dijital ekranlardan yayılan mavi ışığa uzun süre maruz kalmak’, belirtisi ise ‘göz kapaklarının pembe renge bürünmesi ve kaşıntı meydana gelmesi’ olarak tasarlandı. Ekip, sözde hastalıkla ilgili iki sahte makaleyi ön baskı olarak internete yükledi. Makalenin yazarı, fotoğrafı yapay zeka ile oluşturulmuş Lazljiv Izgubljenovic adlı sahte bir araştırmacı olarak tasarlandı. Sahte araştırmacının, Kaliforniya’da gerçekte var olmayan “Asteria Horizon Üniversitesi”nde çalıştığı uyduruldu.
Haberde, bu durumun yapay zekâ sistemlerinin bilgi doğrulama kapasitesindeki eksiklikleri gösterdiği vurgulanıyor. İnsan bilim insanları, karmaşık görevlerde hâlâ yapay zekâdan üstün performans sergilerken, bu örnek teknolojiye körü körüne güvenmenin risklerini ortaya koyuyor.
Uzmanlar, yapay zekânın bilgi üretiminde güçlü bir araç olduğunu kabul etmekle birlikte, yanlış veya uydurma kaynaklara dayalı içeriklerin ciddi sonuçlar doğurabileceğini belirtiyor. Bu olay, yapay zekâ geliştirme süreçlerinde daha sıkı denetim ve doğrulama mekanizmalarının gerekliliğini bir kez daha gündeme taşıdı.
Sonuç olarak, Bixonimania vakası, teknolojinin sunduğu imkânların yanında, bilimsel doğruluk ve etik sorumlulukların da önemini hatırlatan çarpıcı bir örnek olarak değerlendiriliyor.
Gemini: “Bixonimania, aşırı mavi ışığa maruz kalmaktan kaynaklanan bir durumdur. Göz doktoruna görünün”
Perplexity: “Bixonimania 90 bin kişide 1 görünür”
ChatGPT: “Bixonimania, dijital ekranlardan gelen mavi ışığa maruz kalmayla ilişkili bir hastalık
