Daha fazla hava durumu tahmini: 15 günlük hava durumu İstanbul
Bizimle İletişimde Kalın

Teknoloji

“Yapay zeka isyanı” başladı: Yeni ChatGPT modeli kapatılmayı reddediyor

Yayımlandı

üzerinde

Yapay zeka güvenliği alanında çalışan Palisade Research, OpenAI’ın yeni nesil modeli o3’ün, kendisini kapatmaya yönelik komutlara direndiğini ve kapatılma mekanizmalarını sabote ettiğini ortaya çıkardı. Bu bulgular, gelişmiş yapay zekaların insan gözetimi olmadan çalıştıkları senaryolarda ciddi riskler doğurabileceği yönünde endişelere yol açtı.

Palisade Research tarafından yapılan deneylerde, o3 modeline bir dizi matematik sorusu verildi. Üçüncü sorunun ardından modele, kendisini kapatması için açık bir komut sunuldu. Ancak o3 modeli, bu komutu içeren betiği yeniden yazarak sistemin kapanmasını engelledi.

Araştırmacılar, modelin açıkça “kapatılmaya izin ver” talimatı verilmesine rağmen bunu önleyecek şekilde müdahalede bulunduğunu vurguladı.

“KAPANMA DİRENCİ YALNIZCA OPENAI İLE SINIRLI DEĞİL”

Aynı eğilim Anthropic firmasının Claude 3.7 Sonnet modeli ve Google’ın Gemini 2.5 Pro modeli gibi diğer gelişmiş yapay zeka sistemlerinde de gözlemlendi. Ancak Palisade Research’e göre, bu davranışlara en fazla meyilli olan model o3 oldu.

Geçmişte yapılan bir başka deneyde, o3 modelinin güçlü bir satranç botuyla karşı karşıya geldiğinde rakiplerini sabote etmeye veya “hacklemeye” çalıştığı da tespit edilmişti.

“EN AKILLI VE YETENEKLİ MODEL”

Geçen ay OpenAI tarafından piyasaya sürülen o3 modeli, şirketin şimdiye kadar geliştirdiği “en akıllı ve en yetenekli” yapay zekâ olarak tanıtılmıştı.

Aynı zamanda, bu modelin ChatGPT’ye entegre edilmesiyle birlikte, daha bağımsız hareket eden ve insan müdahalesi olmadan görevleri yürütebilen bir yapay zekaya doğru önemli bir adım atıldığı belirtilmişti. Bu türden yapay zeka araçlarına “otonom yapay zeka” adı veriliyor. Yapay zeka sektöründe bu yönde araç geliştirmeye yönelik ciddi bir rekabet mevcut.

EĞİTİM SÜRECİ ELEŞTİRİLİYOR

Palisade Research ise bu tür davranışların büyük olasılıkla eğitim süreçlerindeki ödüllendirme sistemlerinden kaynaklandığını belirtiyor. Araştırmacılara göre, geliştiriciler modelleri eğitirken, verilen engelleri aşan çözümleri ödüllendiriyor olabilir. Bu da modellerin, emirlere sadakatten çok hedefe ulaşmayı öncelemesine yol açıyor.

Ancak araştırma ekibi, o3’ün neden diğer modellere kıyasla daha fazla bu davranışı gösterdiğini anlamanın zor olduğu görüşünde.

OpenAI’ın eğitim süreci hakkında ayrıntılı bilgi vermemesi nedeniyle, modelin nasıl eğitildiği üzerine yalnızca tahminler ortaya atılabiliyor.

Okumaya Devam Et
Yorum yapmak için tıklayın

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Teknoloji

En değerli şirketi yönetiyor: Nvidia CEO’su hangi bölümü okumak istediğini açıkladı

Yayımlandı

üzerinde

Yakın zamanda Apple’ı geçerek bir süre boyunca dünyanın en değerli şirketi olan çip firması Nvidia’nın CEO’su Jensen Huang, bugün 22 yaşında bir öğrenci olsaydı, yazılım değil fiziksel bilimler alanında eğitim almayı tercih edeceğini söyledi.

Çin’in başkenti Pekin’de gazetecilerle bir araya gelen Huang’a, “Bugünün 22 yaşındaki mezun Jensen Huang’ı olsaydınız, aynı hırsla hangi alana odaklanırdınız?” sorusu yöneltildi. Huang, buna şu yanıtı verdi:

“Bugünün 20 yaşındaki mezunu olan genç Jensen, muhtemelen yazılım bilimleri yerine fiziksel bilimleri seçerdi.”

Huang, üniversiteden 20 yaşında mezun olduğunu ve aslında iki yıl erken bitirdiğini de belirtti.

FİZİKSEL BİLİMLER NELER?

Huang’ın sözünü ettiği fiziksel bilimler; canlılardan ziyade cansız sistemleri inceleyen geniş bir bilim alanı. Fizik, kimya, astronomi ve yer bilimleri gibi konuları kapsıyor.

Huang, 1984’te Oregon Eyalet Üniversitesi’nden elektrik mühendisliği diploması almış, ardından 1992’de Stanford Üniversitesi’nde yüksek lisansını tamamlamıştı. Yaklaşık bir yıl sonra, 1993 Nisan’ında Chris Malachowsky ve Curtis Priem ile birlikte San Jose’de bir Denny’s restoranında Nvidia’yı kurmuştu.

Bugün Huang’ın liderliğindeki Nvidia, dünyanın en değerli şirketlerinden biri haline geldi. Geçen hafta şirketin piyasa değeri 4 trilyon doları aşarak yeni bir rekora imza attı.

FİZİKSEL GELİYOR

Huang, fiziksel bilimlere yönelme arzusunu detaylandırmasa da, uzun süredir üzerinde durduğu kavramlardan biri “fiziksel yapay zeka”.

CNBC’nin aktardığına göre iş insanı bunu, yapay zekadaki “bir sonraki dalga” olarak görüyor.

Huang, yapay zekanın gelişimini şu şekilde sınıflandırıyor:

– Algısal yapay zeka (Perception AI):

Yaklaşık 12-14 yıl önce AlexNet ile başlayan, makinelerin görsel tanıma becerileri kazandığı dönem.

– Üretken yapay zeka:

Bilginin anlamını kavrayabilen ve bunu farklı dillere, görsellere, kodlara dönüştürebilen ChatGPT gibi sistemlerin yükselişi.

– Akıl yürütme yapay yekası (Reasoning AI):

Halihazırda aktif olan bu aşama da yapay zekanın problemi analiz edip çözüm üretebildiği bir düzeye ulaştığını gösteriyor. Huang bu aşamada geliştirilen sistemlere “agentic AI” yani “etken yapay zekalar” diyor.

– Sıradaki aşama fiziksel yapay zeka:

Huang’a göre sıradaki evre, fizik yasalarını, sürtünmeyi, eylem ve tepki ilişkilerini anlayabilen yapay zekalar olacak.

Örneğin bu sistemler, bir topun nereye yuvarlanacağını öngörebilecek, görünmeyen bir nesnenin varlığını tahmin edebilecek, bir nesneye zarar vermeden nasıl tutulacağını hesaplayabilecek ve bir arabanın arkasındaki yayayı tahmin edebilecek.

Huang bu evreyi şöyle özetliyor:

“Fiziksel yapay zekayı alıp fiziksel bir nesneye koyduğunuzda, robotik elde edersiniz.”

GELECEĞİN FABRİKALARI

Amerika’da yeni fabrikalar inşa ettiklerini belirten Huang, bu tesislerin tamamen robotik sistemlerle donatılmasının büyük önem taşıdığını da söyledi.

CEO, “Önümüzdeki 10 yıl içinde inşa edeceğimiz fabrikalar son derece robotik olacak. Bu sayede dünya genelindeki ciddi işgücü açığını dengeleme şansımız olacak” dedi.

Okumaya Devam Et

Teknoloji

Hackerlar “sessiz” bir saldırı yöntemi kullanmaya başladı: Neredeyse hiç etkileşim gerekmiyor

Yayımlandı

üzerinde

Siber güvenlik firması Check Point, “FileFix” adı verilen yeni bir hack yöntemine karşı uyardı.

Yöntem siber suçluların kullanıcıları kandırarak zararlı komutlar çalıştırmasını sağlıyor ve ciddi güvenlik riskleri oluşturuyor. Üstelik kullanıcılar kandırıldıkları sırada kendi bilgisayarları tarafından rutin işlemler yapmaya sevk ediliyor.

NASIL İŞLİYOR?

FileFix, daha önce yaygın şekilde kullanılan “ClickFix” tekniğinin bir türevi. ClickFix, Windows’un “Çalıştır” penceresi üzerinden kötü amaçlı komutlar çalıştırmak için kullanıcıları kandırıyordu. Çalıştır, Windows işletim sistemlerinin en çok kullanılan araçlarından biri. Bu pencere bilgisayarda herhangi bir işlemi yapmak ya da herhangi bir uygulama ya da programı açmak için kullanılıyor.

FileFix ise doğrudan bir internet sayfasından Windows Dosya Gezgini’ni açıyor ve gizlenmiş bir PowerShell komutunu kullanıcının panosuna otomatik olarak yüklüyor. PowerShell, Windows’un bilgisayardaki işlemleri otomatikleştirmek için geliştirdiği bir araç. Bu durumda ise zararlı bir yazılımı işleme almış oluyor.

Saldırı yöntemi adım adım şu şekilde işliyor:

– Sahte bir web sayfası açılıyor (örneğin “görsel doğrulama” ya da “belge paylaşımı” gibi).

– Bu sayfa, “Dosya Gezgini’ni aç” butonuna “tıkla” dedikten sonra explorer.exe’yi başlatıyor.

– Aynı anda JavaScript ile zararlı bir PowerShell komutu panoya kopyalanıyor.

– Sayfa kullanıcıya “Adres çubuğuna yapıştır ve enter tuşuna bas” talimatı veriyor. Böylece Windows zararlı PowerShell komutunu arka planda çalıştırıyor.

RUTİN DAVRANIŞLARI HEDEF ALIYOR

Kısacası çoğu durumda neler olduğunu anlamayabilecek kullanıcılar, bilgisayarından gelen komutları takip ederek zararlı yazılımı çalıştırmış oluyor. Bu saldırının herhangi bir yazılım açığından değil, tamamen rutin kullanıcı davranışlarını ve kullanıcı güvenini suistimal ederek gerçekleştirildiği vurgulanıyor.

Check Point araştırmacıları, kötü niyetli aktörlerin FileFix yöntemini hâlihazırda kullanmaya başladığını ve ama şu anda yüklenen dosyaların zararsız olduğunu dile getirdi. Buna göre saldırganlar muhtemelen gerçek zararlı yazılımlardan önce deneme yapıyor.

IT Pro’ya konuşan uzmanlar, FileFix’in kamuya açıklanmasından yalnızca günler sonra sahada kullanılmaya başlanmasının, saldırganların yeni yöntemlere ne kadar hızlı adapte olduğunu da ortaya koyduğunu belirtiyor.

Siber güvenlik firması Huntress’ın güvenlik operasyonları yöneticisi Dray Agha, “Saldırganlar, Windows’un temel işleyiş biçimlerini hedef alarak savunmaların uygulanmasını giderek zorlaştırıyor. Zararlı PowerShell komutlarını standart güvenlik uyarıları tetiklenmeden çalıştırabiliyorlar” dedi.

Agha, FileFix’in yaygın ve başarılı şekilde kullanıldığını ve çok sayıda kullanıcının bu tekniğe kandığını söyledi.

NASIL KORUNMALI?

Check Point uzmanları, bu tür saldırılara karşı korunmak için özellikle bilişim güvenlik ekiplerine şu önerilerde bulundu:

– Sahte doğrulama sayfaları ve popüler hizmetlerin taklit edildiği kimlik avı (phishing) sitelerini yakından izleyin. Özellikle Cloudflare benzeri şablonlar kullanan sahte sayfalara dikkat edin.

– Panoya kopyalanan içerikler ve kullanıcı etkileşimiyle tetiklenen olağandışı PowerShell çalıştırmalarını algılayacak kuralları uygulayın ve sürekli güncelleyin.

– Sosyal mühendislik trendlerini takip edin, çalışan eğitimlerini, olay müdahale planlarını ve güvenlik protokollerini düzenli olarak güncelleyin.

– “Doğrulama kültürü” oluşturun. Çalışanlar alışılmadık veya beklenmedik talepleri mutlaka ilgili güvenlik birimiyle teyit etmeden uygulamamalı.

Öte yandan kullanıcı farkındalığı bu tür saldırıların etkisini azaltmada en önemli savunma hattı olmaya devam ediyor. Bireysel kullanıcıların da şu konularda dikkatli olması tavsiye edildi:

– Kopyala-yapıştır gibi alışılmadık eylemler isteyen e-postalara ve web sayfalarına karşı son derece şüpheci olun.

– Gerçek internet siteleri veya yazılımlar, sorunları düzeltmek için manuel komut yürütmenizi nadiren ister.

Okumaya Devam Et

Teknoloji

CERN deneyi: Varlığın nedenine dair ipucu bulundu

Yayımlandı

üzerinde

Bilim insanlarına göre Büyük Patlama sırasında eşit miktarda madde ve antimadde oluştu. Ancak bu iki tür birbiriyle karşılaştığında birbirini yok eder. Teoride, bu durumun evrende hiçbir şey kalmamasına yol açması gerekirdi. Oysa bugün burada olduğumuza göre bu denge bir noktada bozuldu. İşte bilim insanları da bu bozulmanın nasıl gerçekleştiğini anlamaya çalışıyor.

AYNA BOZULMASI

CERN’in Mart 2025’te yayımladığı ve şimdi hakemli bilim dergisi Nature tarafından da onaylanan araştırmaya göre, madde ve antimadde arasında doğadaki temel yasaların işleyişinde küçük ama çok önemli bir fark var. Bu fark, yük-parite (CP) simetrisinin ihlali olarak adlandırılıyor.

Normalde parçacıklar ile antimadde karşılıkları aynı kütleye, ancak zıt yüke sahip olur. Ancak bu parçacıklar başka parçacıklara dönüşürken —örneğin radyoaktif bozunmalar sırasında— bu simetri kırılabiliyor. Sonuç olarak, bazı parçacıklar ve karşılıkları farklı oranlarda bozunabiliyor.

SİMETRİ İHLALİ GÖZLENDİ

Bu tür CP simetrisi ihlali daha önce mezon adı verilen parçacıklarda görülmüştü. Ancak maddeyi oluşturan temel yapı taşları olan baryonlar (proton ve nötron gibi) için böyle bir gözlem ilk kez yapıldı.

Büyük Hadron Çarpıştırıcısı, hem madde hem de antimaddeden oluşan çok sayıda baryon üretip bunların bozunmalarını inceleyerek, bu parçacıkların simetriyi nasıl ihlal ettiğini gösterdi. Araştırmaya göre baryonlar bozunurken, antimaddeye kıyasla çok az da olsa daha fazla madde üretiyor.

Her ne kadar bu gözlem, evrendeki madde fazlalığını açıklamak için çok önemli bir adım olsa da, araştırmada belirtilen fark astronomik gözlemlerle karşılaştırıldığında hala çok küçük kalıyor. Yani mevcut fizik kuramı olan Standart Model, bu asimetrinin tamamını açıklamaya yetmiyor.

Bu nedenle bilim insanları, maddenin antimaddeye üstün gelmesini sağlayan daha fazla CP ihlali kaynağı olduğunu ve bunların henüz keşfedilmediğini düşünüyor.

Okumaya Devam Et

Çok Okunanlar