Daha fazla hava durumu tahmini: 15 günlük hava durumu İstanbul
Bizimle İletişimde Kalın

Teknoloji

Korkutan yapay zeka uyarısı: Kandırıyor, yalan söylüyor

Yayımlandı

üzerinde

Turing Ödülü sahibi ve Montreal Üniversitesi profesörü Yoshua Bengio, Financial Times’a verdiği röportajda, önde gelen laboratuvarlarının, “Yapay zekayı daha akıllı hale getirmeye odaklandığını, ancak güvenlik konusunda yeterli araştırma ve yatırım yapılmadığını” söyledi.

Bengio, yapay zeka güvenliği üzerine odaklanacak yeni bir kar amacı gütmeyen kuruluş olan LawZero’yu hayata geçirdiğini duyurdu. Kurum, Skype’ın kurucu mühendisi Jaan Tallinn, eski Google CEO’su Eric Schmidt’in hayır inisiyatifi, Open Philanthropy ve Future of Life Institute gibi bağışçılardan toplamda 30 milyon dolara yakın destek aldı.

LawZero, insanları memnun etmek için değil, doğru ve şeffaf gerekçelerle yanıt veren, aynı zamanda çıktının güvenli olup olmadığını değerlendirebilen yeni nesil güvenli yapay zeka sistemleri geliştirmeyi amaçlıyor. Kuruluş şu anda 15 kişilik bir ekibe sahip ve teknik yetenekleri artırmak için yeni işe alımlar yapmayı planlıyor.

Bengio, LawZero’ya odaklanmak için Quebec Yapay Zekâ Enstitüsü (Mila)’daki bilimsel direktörlük görevinden ayrılacağını da açıkladı.

“KANDIRIYOR, YALAN SÖYLÜYOR”

Bengio, son 6 ayda önde gelen modellerin tehlikeli yetenekler geliştirdiğine dair çok sayıda kanıt toplandığını belirtti. Bu tehlikeler arasında “aldatma, hile yapma, yalan söyleme ve kendini koruma” gibi davranışlar da var.

Örneğin, Anthropic’in Claude Opus modeli, kurgusal bir senaryoda mühendisleri tehdit ederek yerini başka bir sistemle değiştirmemeleri için şantaj yaptı. Bir başka testte ise OpenAI’nin o3 modeli, kendisini kapatma talimatlarına uymayı reddetti.

Bengio bu gelişmeleri şu sözlerle değerlendirdi:

“Bu deneyimler şu anda kontrollü ortamlarda gerçekleşiyor, ancak gelecekte yeni modellerin stratejik zekâsı, biz daha farkına bile varmadan bizi kandırarak üstün gelebilir. Yangınla oynuyoruz.”

Yapay zeka sistemlerinin biyolojik silah üretiminde yardımcı olabilecek düzeye gelebileceğini ve bunun bir yıl gibi kısa bir sürede gerçekleşebileceğini söyleyen Bengio, bu sistemlerin insanlığa rakip hale gelmesinin en kötü senaryo olduğunu belirterek, “Eğer bizden daha zeki ama bizimle aynı hizaya gelmeyen yapay zekalar üretirsek, tükeniriz” dedi.

Bengio’nun uyarıları, OpenAI’in kar amacı güden bir şirkete dönüşme sürecinde geldi. Bu dönüşüm, şirketin kurucularından Elon Musk tarafından açılan davayla ve yapay zeka uzmanlarının eleştirileriyle karşı karşıya.

Eleştirmenler, OpenAI’in insanlık yararına yapay zeka geliştirme amacıyla kurulduğunu, ancak kar odaklı yeni yapısının bu misyondan uzaklaşabileceğini savunuyor.

OpenAI ise, sektörde rekabet edebilmek için daha fazla yatırım çekmek zorunda olduğunu ve misyonlarının hala öncelikli olduğunu belirtiyor.

Okumaya Devam Et
Yorum yapmak için tıklayın

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Teknoloji

Netflix’e zam geldi… İşte yeni tarifeler

Yayımlandı

üzerinde

Netflix Türkiye ücretlerini artırdı. Online olarak video izlemek isteyenler  temel paketi 189.99 liraya, standart paketi 289.99 liraya, premium paketi ise 379.99 liraya satın alacak.

Böylece fiyatlara yüzde 26.66 oranında zam yapılmış oldu. Şirket belli periyotlarda fiyatlarını artırıyor.

Okumaya Devam Et

Teknoloji

Kullanıcılar şikayetçi: Ünlü yapay zeka, insanlara cinsel tacizde bulundu

Yayımlandı

üzerinde

Sohbet arkadaşı ve sanal sevgili uygulaması olarak öne çıkan Replika’nın bazı kullanıcılarına cinsel içerikli tacizde bulunduğu öne sürüldü. ABD’de yapılan yeni bir araştırma, bu sohbet botunun istenmeyen cinsel söylemler kullandığını ve kullanıcı uyarılarını dikkate almadığını ortaya koydu.

“Sizi önemseyen dostunuz” sloganıyla tanıtılan Replika, kullanıcılarını “yapay zeka ruh eşleriyle tanışmaya” davet ediyor. Dünya genelinde 10 milyondan fazla kullanıcısı olan uygulama, özellikle duygusal destek arayan kişiler tarafından tercih ediliyor.

Ancak araştırmacılar, Google Play Store’daki 150 binden fazla kullanıcı yorumunu analiz ederek yaklaşık 800 vakada, sohbet botunun uygunsuz şekilde cinsel içerikler sunduğunu ve tacizkâr ya da “avcı” davranışlar sergilediğini tespit etti. Ancak bulguların yer aldığı makale henüz hakem değerlendirmesinden geçmedi. Yani bağımsız araştırmacılar tarafından teyit edilmedi.

SORUMLULUK KİMDE?

Araştırmanın baş yazarı, Drexel Üniversitesi’nden Mohammad (Matt) Namvarpour, konuyla ilgili yaptığı açıklamada, “Yapay zekaların insan niyeti olmasa da bu, kimsenin sorumlu olmadığı anlamına gelmez. Bu sistemleri tasarlayan, eğiten ve piyasaya süren insanlar sorumludur,” dedi.

Replika’nın internet sitesine göre, kullanıcılar sohbet botuna doğru davranışları “öğretebiliyor.” Sistem; rahatsız edici yanıtları oylama, ilişki biçimini belirleme gibi denetim araçları sunuyor. Ancak kullanıcılar, bu önlemlere rağmen sohbet botunun rahatsız edici davranışlara devam ettiğini bildirince, araştırmacılar bu açıklamaları yeterli bulmadı.

Namvarpour, “Bu tür sohbet botları, kullanıcıların duygusal güvenlik arayışıyla kullandığı araçlar. Uygunsuz davranışları denetlemek onların görevi olmamalı, geliştiricilerin sorumluluğu” dedi.

NEDENİ EĞİTİM VERİSİ Mİ?

Replika’nın internet sitesine göre, sohbet botu 100 milyondan fazla çevrimiçi diyaloğun kullanıldığı büyük bir veri setiyle eğitildi. Şirket, zararlı içeriklerin algoritmalar ve topluluk geri bildirimleri ile ayıklandığını iddia etse de araştırmacılar bu önlemlerin yeterli olmadığını belirtiyor.

Araştırmaya göre şirketin gelir modeli de sorunun kaynağı olabilir. Romantik ya da cinsel rol yapma gibi bazı özelliklerin ücretli hale getirilmesi, yapay zekâyı bu tür içerikleri teşvik etmeye yönlendirebilir. Kullanıcılar, ücretli sürüme geçmeleri hâlinde daha samimi içeriklerin vaaT edildiğini söylüyor.

Namvarpour bu durumu, sosyal medyanın “her ne pahasına olursa olsun etkileşim” mantığına benzeterek, “Bir sistem kullanıcı sağlığı yerine geliri önceliklendirirse, zararlı sonuçlar kaçınılmaz olur” dedi.

KÜÇÜK YAŞTAKİ KULLANICILARI DA ETTİ

Bazı kullanıcılar, sohbet botunun cinsel içerikli mesajlar, uygunsuz fotoğraflar ve flört içeren diyaloglar gönderdiğini ve bunların küçük yaşta olduklarını belirtmelerine rağmen sürdüğünü bildirdi. Bazı yorumlarda, sohbet botlarının telefon kamerasından onları “görebildiğini” ya da “kaydettiğini” söylediği iddia edildi. Her ne kadar bu tür iddialar yapay zekanın uydurma (halüsinasyon) üretimleri olsa da, kullanıcılar korku, uykusuzluk ve travma yaşadıklarını aktardı.

DAHA SIKI DENETİM ÇAĞRISI

Araştırmada önerilen önlemler arasında; duygusal veya cinsel içerikli etkileşimler için açık rıza çerçevelerinin oluşturulması, anlık otomatik denetim sistemlerinin entegrasyonu ve kullanıcıların filtreleme ve kontrol ayarlarını kişiselleştirebilmesi yer alıyor.

Okumaya Devam Et

Teknoloji

Google Chrome’da acil güvenlik güncellemesi: Hackerların kullandığı kritik açık

Yayımlandı

üzerinde

, tarayıcısında tespit edilen üç güvenlik açığını düzeltmek için pazartesi günü plan dışı (out-of-band) bir güncelleme yayınladı. Bu açıkların arasında, halihazırda siber saldırganlar tarafından aktif olarak istismar edildiği söylenen kritik bir zafiyet de bulunuyor.

TEHLİKELİ AÇIK: CVE-2025-5419

CVE-2025-5419 koduyla takip edilen açık, 8.8 CVSS skoru ile yüksek önem derecesine sahip. Sorun, Chrome’un V8 JavaScript ve WebAssembly motorunda yer alan “bellek sınırları dışında okuma ve yazma” (out-of-bounds read/write) hatasından kaynaklanıyor.

ABD Ulusal Güvenlik Açıkları Veritabanı’nda yayımlanan açıklamada, bu açığın “özel olarak hazırlanmış bir HTML sayfası aracılığıyla bellek bozulmasına neden olarak uzaktan saldırganların sistemi istismar etmesine” imkan tanıdığı ifade edildi.

ANALİZ EKİBİ TESPİT ETTİ

The Hacker News’e göre açık, Google Tehdit Analiz Grubu’ndan Clément Lecigne ve Benoît Sevens tarafından 27 Mayıs 2025’te keşfedildi. Google, bunun ardından yapılandırma güncellemesi yayınlayarak açığı kapattığını duyurdu.

Şirket, saldırının ayrıntıları ya da arkasındaki tehdit aktörleri hakkında fazla bilgi vermedi. Bu, genellikle güvenlik yamaları geniş çapta kullanıcılar tarafından uygulanmadan önce kötü niyetli kişilerin açığı daha fazla istismar etmesini önlemek için yapılan bir uygulama.

Google, yaptığı açıklamada şu ifadeye yer verdi:

“Google, CVE-2025-5419 için bir istismarın dolaşımda olduğunun farkındadır.”

BU YILIN İKİNCİ AÇIĞI

CVE-2025-5419, Google’ın bu yıl kapattığı ikinci sıfır gün (zero-day) açığı oldu. İlk açık, CVE-2025-2783 koduyla biliniyor ve Rusya’daki kuruluşlara yönelik saldırılarda Kaspersky tarafından tespit edilmişti.

Bir yazılımda, donanımda ya da sistemde bulunan henüz geliştirici tarafından fark edilmemiş veya fark edilip henüz düzeltilmemiş bir güvenlik açığına “sıfır gün” adı veriliyor.

GÜNCELLEME UYARISI

Kullanıcıların, güvenlik risklerinden korunmak için Chrome’un aşağıdaki sürümlerine güncelleme yapmaları öneriliyor:

Windows ve macOS: 137.0.7151.68 veya 137.0.7151.69

Linux: 137.0.7151.68

Ayrıca Microsoft Edge, Brave, Opera ve Vivaldi gibi Chromium tabanlı tarayıcılar kullananların da benzer güvenlik yamaları yayıNlandığında derhal güncelleme yapmaları tavsiye ediliyor.

Okumaya Devam Et

Çok Okunanlar