Yapay zeka ne kadar güvenilir?
23 Haziran 2026 - 13:32
Yapay zeka asistanının eksik ve hatalı bilgi verdiği, hatası bulunduğunda anında çark ettiği belirlendi.
Önemli tıp dergisi BMJ Open’da yayınlanan bir araştırmada, kamuya açık 5 yapay zeka asistanı (sohbet botu) olan; ChatGPT, Gemini, Grok, Meta AI ve DeepSeek test edildi.
Bu sohbet botlarına sağlık özelinde sıklıkla yanlış bilgilere rastlanan konularda toplam 50 soru soruldu ve cevapların yüzde 60’ı sorunlu bulundu. Yanıtların bir bölümü “bir ölçüde sorunlu” iken, yüzde 20’si “yüksek derecede sorunlu hatta tehlikeli” olarak nitelendirildi.
Serbest biçimde öneri isteyen soruların, kapalı uçlu sorulara göre çok daha tehlikeli cevap ürettiği bildirildi. Cevapların kaynak gösterme kalitesi ise düşük bulundu. Bazı kaynakların eksik verildiği, bazılarının ise gerçekte var olmayan ya da yanlış aktarılan çalışmalara dayandığı saptandı. Esas sorun, cevapların çoğu zaman güçlü bir güven tonu taşımasıydı. Yapay zekâ asistanı şüpheli bir bilgiyi bile tereddütsüz, kendinden son derece emin ve ikna edici bir dille cevaplıyordu.
Uydurma kitap ve makaleler
Sadece sağlığı kapsamayan bu sorun internette yayılan yeni bir terime dikkat çekiyor. “AI Slop” yani “yapay zekâ balçığı.” Araştırmalar her alanın bu sorunun içine battığını gösteriyordu. “Deloitte” gibi saygın bir denetleme şirketinin bile bu batağa iki defa saplandığı belirtildi ve şirketin, Avustralya ve Kanada hükümetleri için yapay zekâ desteği ile hazırladığı raporların hatalı olduğu ortaya çıktı. Referanslarda hiç yazılmamış kitaplar veya yazarlarının bile haberinin olmadığı uydurma makaleler ile var olmayan yüksek mahkeme raporlarının varlığı güvenilirliği sorgulattı. İç Hastalıkları Uzmanı Dr. Özgür Şamilgil konuyla ilgili uyarısında, “Yapay zekâ asistanına danışsanız bile bunu uzmanlarla doğrulamayı ihmal etmeyin. Yapay zekâ kaynaklı sağlık iddialarını; ‘Mayo Clinic’, ‘Cleveland Clinic’ veya ‘Yale Medicine’ benzeri güvenilir ve incelenmiş sitelerden kontrol edin” diyor.
İddialara Yapay Zeka AI nasıl bakıyor?
Yapay zeka (YZ), veri analizi ve otomasyon gibi alanlarda oldukça güçlü ve güvenilir bir araçtır. Ancak kusursuz değildir. "Halüsinasyon" adı verilen yapay zeka yalanları nedeniyle yanlış bilgi üretebilir. Bu nedenle kritik kararlar ve doğru bilgi teyidi için resmi kaynaklara başvurulmalıdır.
Bilgi Doğruluğu
Yapay zeka, içerdiği veriler ışığında bir olasılık hesabı yapar. Bazen gerçek dışı bilgileri çok ikna edici bir dille sunabilir.
Özellikle sağlık, finans veya hukuk gibi konularda yapay zekanın sunduğu tavsiyeler kesin gerçek olarak kabul edilmemelidir
Veri Gizliliği
Açık kaynaklı yapay zeka platformlarına girilen kişisel ve kurumsal veriler, sistemin eğitimi için kullanılabilir. Hassas bilgilerin bu sistemlerle paylaşılmaması önemlidir.
Manipülasyon ve Güvenlik Tehditleri
Derin sahte (deepfake) teknolojileri ile üretilen görsel ve sesler kimlik hırsızlığı veya dolandırıcılık amacıyla kullanılabilmektedir.
Ve şu şekilde uyarı:
Bir çekiç nasıl ev yapmak için kullanılabildiği gibi zarar vermek için de kullanılabiliyorsa, yapay zekanın güvenilirliği de geliştiricisine ve kullanıcısının niyetine bağlıdır.
Önemli tıp dergisi BMJ Open’da yayınlanan bir araştırmada, kamuya açık 5 yapay zeka asistanı (sohbet botu) olan; ChatGPT, Gemini, Grok, Meta AI ve DeepSeek test edildi.
Bu sohbet botlarına sağlık özelinde sıklıkla yanlış bilgilere rastlanan konularda toplam 50 soru soruldu ve cevapların yüzde 60’ı sorunlu bulundu. Yanıtların bir bölümü “bir ölçüde sorunlu” iken, yüzde 20’si “yüksek derecede sorunlu hatta tehlikeli” olarak nitelendirildi.
Serbest biçimde öneri isteyen soruların, kapalı uçlu sorulara göre çok daha tehlikeli cevap ürettiği bildirildi. Cevapların kaynak gösterme kalitesi ise düşük bulundu. Bazı kaynakların eksik verildiği, bazılarının ise gerçekte var olmayan ya da yanlış aktarılan çalışmalara dayandığı saptandı. Esas sorun, cevapların çoğu zaman güçlü bir güven tonu taşımasıydı. Yapay zekâ asistanı şüpheli bir bilgiyi bile tereddütsüz, kendinden son derece emin ve ikna edici bir dille cevaplıyordu.
Uydurma kitap ve makaleler
Sadece sağlığı kapsamayan bu sorun internette yayılan yeni bir terime dikkat çekiyor. “AI Slop” yani “yapay zekâ balçığı.” Araştırmalar her alanın bu sorunun içine battığını gösteriyordu. “Deloitte” gibi saygın bir denetleme şirketinin bile bu batağa iki defa saplandığı belirtildi ve şirketin, Avustralya ve Kanada hükümetleri için yapay zekâ desteği ile hazırladığı raporların hatalı olduğu ortaya çıktı. Referanslarda hiç yazılmamış kitaplar veya yazarlarının bile haberinin olmadığı uydurma makaleler ile var olmayan yüksek mahkeme raporlarının varlığı güvenilirliği sorgulattı. İç Hastalıkları Uzmanı Dr. Özgür Şamilgil konuyla ilgili uyarısında, “Yapay zekâ asistanına danışsanız bile bunu uzmanlarla doğrulamayı ihmal etmeyin. Yapay zekâ kaynaklı sağlık iddialarını; ‘Mayo Clinic’, ‘Cleveland Clinic’ veya ‘Yale Medicine’ benzeri güvenilir ve incelenmiş sitelerden kontrol edin” diyor.
İddialara Yapay Zeka AI nasıl bakıyor?
Yapay zeka (YZ), veri analizi ve otomasyon gibi alanlarda oldukça güçlü ve güvenilir bir araçtır. Ancak kusursuz değildir. "Halüsinasyon" adı verilen yapay zeka yalanları nedeniyle yanlış bilgi üretebilir. Bu nedenle kritik kararlar ve doğru bilgi teyidi için resmi kaynaklara başvurulmalıdır.
Bilgi Doğruluğu
Yapay zeka, içerdiği veriler ışığında bir olasılık hesabı yapar. Bazen gerçek dışı bilgileri çok ikna edici bir dille sunabilir.
Özellikle sağlık, finans veya hukuk gibi konularda yapay zekanın sunduğu tavsiyeler kesin gerçek olarak kabul edilmemelidir
Veri Gizliliği
Açık kaynaklı yapay zeka platformlarına girilen kişisel ve kurumsal veriler, sistemin eğitimi için kullanılabilir. Hassas bilgilerin bu sistemlerle paylaşılmaması önemlidir.
Manipülasyon ve Güvenlik Tehditleri
Derin sahte (deepfake) teknolojileri ile üretilen görsel ve sesler kimlik hırsızlığı veya dolandırıcılık amacıyla kullanılabilmektedir.
Ve şu şekilde uyarı:
Bir çekiç nasıl ev yapmak için kullanılabildiği gibi zarar vermek için de kullanılabiliyorsa, yapay zekanın güvenilirliği de geliştiricisine ve kullanıcısının niyetine bağlıdır.
FACEBOOK YORUMLAR