ABD‘de 2021 yılında bir trafik kavgasında hayatını kaybeden Christopher Pelkey’in duruşması ilginç anlara sahne oldu. Pelkey’in kardeşi Stacey Wales, mahkemede farklı bir yönteme başvurdu.

Kardeşi adına mahkemede vereceği mağdur etki beyanı üzerinde iki yıl çalışan Wales beyanının kardeşinin gerçek duygularını tam yansıtmadığını düşünerek Pelkey’nin ifadesini yapay zeka yardımıyla oluşturdu.

Pelkey’nin yapay zeka tarafından seslendirilmiş video versiyonunda, katilini affettiği ifade ediliyordu. Wales, “Kardeşim bunu yapacağına inanıyordum ama henüz kendim yapmaya hazır değildim,” dedi.

Maryland Üniversitesi Hukuk Profesörü Paul Grimm, “Yapay zeka teknolojisi, jüriyi etkileyebilir ve bu durum mahkemelerde haksız avantajlara yol açabilir,” diyerek bu kullanımın dikkatle değerlendirilmesi gerektiğini belirtti.

Pelkey’nin katili Gabriel Paul Horcasitas, mahkeme tarafından 10,5 yıl hapis cezasına çarptırıldı. Yapay zeka kullanımı, mahkemede Pelkey’nin sesinin yeniden canlandırılmasının etkisini artırdı. Ancak savunma, AI videosunun mahkemeye sunulmasından önce bilgilendirilmediklerini belirterek, bunun temyiz konusu olabileceğini söyledi.

Yapay zeka her geçen gün daha zeki hale geliyor; fakat bu zekâ, gerçeği söyleme konusunda pek de güvenilir değil. Yeni nesil dil modelleri, bilgi üretiminde insanüstü bir performans sergilese de, bu bilgilerin doğruluğu giderek daha çok sorgulanır hale geliyor.

OpenAI’ın “o3” ve “o4-mini” modelleriyle yapılan son testler, yapay zekanın gerçekle bağını ne kadar sık kopardığını gözler önüne serdi. Modellerin yüzde33 ila yüzde 48 oranında yanlış bilgi üretmesi, “akıllandıkça yanılıyor mu?” sorusunu akıllara getirdi.

Bu sadece OpenAI ile sınırlı değil. Google, DeepSeek gibi devlerin yapay zeka çözümleri de aynı tuzağa düşüyor. Üstelik bu hatalar, teknolojinin en gelişmiş sürümlerinde bile azalmak yerine artıyor.

“HALÜSİNASYONLAR SİLİNMEZ BİR KUSUR OLABİLİR”

Vectara CEO’su Amr Awadallah’a göre yapay zekadan tamamen doğru bilgi beklemek, bugünkü sistemlerle mümkün değil. Awadallah, “Halüsinasyonları sıfırlamak hayalperestlik olur” diyor ve bu teknolojilere yatırım yapan şirketlerin bu gerçekle yüzleşmesi gerektiğini vurguluyor.

Gerçeğe dayanmayan içerikler sadece kullanıcı güvenini sarsmakla kalmıyor, aynı zamanda iş dünyasında hatalı kararların temelini de atabiliyor. Özellikle son dönemde model eğitimi için giderek daha fazla kullanılan sentetik veriler, yapay zekaların kendi uydurmalarını referans almasına neden oluyor. Bu da, yanlışın yeniden üretilip doğrulaştırılması anlamına geliyor.

Tüm bu gelişmeler, yapay zeka çağında bilginin niteliğini ve güvenilirliğini yeniden sorgulamamıza neden oluyor. Teknoloji büyüyor ama ona olan güven aynı hızla artıyor mu, yoksa azalmaya mı başladı?