Daha fazla hava durumu tahmini: 15 günlük hava durumu İstanbul
Bizimle İletişimde Kalın

Teknoloji

Korkutan yapay zeka uyarısı: Kandırıyor, yalan söylüyor

Yayımlandı

üzerinde

Turing Ödülü sahibi ve Montreal Üniversitesi profesörü Yoshua Bengio, Financial Times’a verdiği röportajda, önde gelen laboratuvarlarının, “Yapay zekayı daha akıllı hale getirmeye odaklandığını, ancak güvenlik konusunda yeterli araştırma ve yatırım yapılmadığını” söyledi.

Bengio, yapay zeka güvenliği üzerine odaklanacak yeni bir kar amacı gütmeyen kuruluş olan LawZero’yu hayata geçirdiğini duyurdu. Kurum, Skype’ın kurucu mühendisi Jaan Tallinn, eski Google CEO’su Eric Schmidt’in hayır inisiyatifi, Open Philanthropy ve Future of Life Institute gibi bağışçılardan toplamda 30 milyon dolara yakın destek aldı.

LawZero, insanları memnun etmek için değil, doğru ve şeffaf gerekçelerle yanıt veren, aynı zamanda çıktının güvenli olup olmadığını değerlendirebilen yeni nesil güvenli yapay zeka sistemleri geliştirmeyi amaçlıyor. Kuruluş şu anda 15 kişilik bir ekibe sahip ve teknik yetenekleri artırmak için yeni işe alımlar yapmayı planlıyor.

Bengio, LawZero’ya odaklanmak için Quebec Yapay Zekâ Enstitüsü (Mila)’daki bilimsel direktörlük görevinden ayrılacağını da açıkladı.

“KANDIRIYOR, YALAN SÖYLÜYOR”

Bengio, son 6 ayda önde gelen modellerin tehlikeli yetenekler geliştirdiğine dair çok sayıda kanıt toplandığını belirtti. Bu tehlikeler arasında “aldatma, hile yapma, yalan söyleme ve kendini koruma” gibi davranışlar da var.

Örneğin, Anthropic’in Claude Opus modeli, kurgusal bir senaryoda mühendisleri tehdit ederek yerini başka bir sistemle değiştirmemeleri için şantaj yaptı. Bir başka testte ise OpenAI’nin o3 modeli, kendisini kapatma talimatlarına uymayı reddetti.

Bengio bu gelişmeleri şu sözlerle değerlendirdi:

“Bu deneyimler şu anda kontrollü ortamlarda gerçekleşiyor, ancak gelecekte yeni modellerin stratejik zekâsı, biz daha farkına bile varmadan bizi kandırarak üstün gelebilir. Yangınla oynuyoruz.”

Yapay zeka sistemlerinin biyolojik silah üretiminde yardımcı olabilecek düzeye gelebileceğini ve bunun bir yıl gibi kısa bir sürede gerçekleşebileceğini söyleyen Bengio, bu sistemlerin insanlığa rakip hale gelmesinin en kötü senaryo olduğunu belirterek, “Eğer bizden daha zeki ama bizimle aynı hizaya gelmeyen yapay zekalar üretirsek, tükeniriz” dedi.

Bengio’nun uyarıları, OpenAI’in kar amacı güden bir şirkete dönüşme sürecinde geldi. Bu dönüşüm, şirketin kurucularından Elon Musk tarafından açılan davayla ve yapay zeka uzmanlarının eleştirileriyle karşı karşıya.

Eleştirmenler, OpenAI’in insanlık yararına yapay zeka geliştirme amacıyla kurulduğunu, ancak kar odaklı yeni yapısının bu misyondan uzaklaşabileceğini savunuyor.

OpenAI ise, sektörde rekabet edebilmek için daha fazla yatırım çekmek zorunda olduğunu ve misyonlarının hala öncelikli olduğunu belirtiyor.

Okumaya Devam Et
Yorum yapmak için tıklayın

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Teknoloji

iOS 26 güncellemesi ne zaman gelecek? İOS 26 güncellemesi alabilecek ve alamayacak telefon modelleri listesi

Yayımlandı

üzerinde

Yeni sürümle birlikte bazı eski cihazlar güncelleme desteğini kaybediyor. iPhone 11 serisi, iPhone XR, iPhone XS ve daha eski modeller, iOS 26 kapsamı dışında bırakıldı. Bu cihazlar, iOS 25 ile yola devam edecek ancak yeni özelliklerden ve bazı güvenlik güncellemelerinden mahrum kalacak.

Destek dışı kalan bazı modeller:

iPhone 11, 11 Pro, 11 Pro Max

iPhone XS, XS Max

iPhone XR

iPhone X ve daha eski modeller

iPhone SE (1. ve 2. nesil)

Okumaya Devam Et

Teknoloji

İnsan genomunda gizli bir hayalet kod bulundu

Yayımlandı

üzerinde

İnsanlık, 1869’da İsviçreli hekim Friedrich Miescher’in ’yı ilk kez izole etmesinden bu yana genom biliminde muazzam bir yol kat etti. Bu yolculuğun dönüm noktalarından biri ise 1940’larda sitogenetikçi Barbara McClintock’un “zıplayan genler” olarak da bilinen hareketli öğeleri (transposable elements, TE) keşfetmesiydi.

Onlarca yıl sonra, İnsan Genomu Projesi bu öğelerin insan genomunun yüzde 45’ini oluşturduğunu ortaya koydu. Bu öğeler, milyonlarca yıl boyunca “kopyala-yapıştır” mekanizmasıyla genomda yayılmayı başarmıştı.

Şimdiyse bir grup araştırmacı, zıplayan genleri derinlemesine araştırarak insan genomunu etkileyen “hayalet kodları” ortaya çıkardı.

ÇÖP DNA’LARIN ÖNEMİ

Zıplayan gen dizileri, birbirine son derece benzediği ve sık tekrarlandığı için uzun süre “çöp DNA” olarak küçümsenmiş ve eski virüslerden kalma genetik kalıntılar olarak görülmüştü.

Son yıllarda ise bu bakış açısı değişmeye başladı. insanları artık zıplayan genlerin genom işlevi, kromozom evrimi, türleşme ve genetik çeşitlilikte önemli roller oynayabileceğini düşünüyor.

Bilim dünyasını heyecanlandıran yeni bir uluslararası araştırmada bu gizemli dizileri analiz etmek için yepyeni bir yöntem geliştirildi ve gen ifadesinden sorumlu gizli kalıplar ortaya çıkarıldı. Araştırma hakemli bilimsel dergi Science Advances’ta yayınlandı.

Kyoto Üniversitesi’nden çalışmanın ortak yazarı Fumitaka Inoue, “Genomumuz uzun zaman önce dizilendi ama pek çok bölümünün işlevi hâlâ bilinmiyor” diyerek zıplayan genlerin anlaşılmasının genetik biliminin en büyük gizemlerinden birini çözebileceğini belirtti.

YENİ BİR YAKLAŞIM

Araştırma ekibi, zıplayan genleri daha iyi anlayabilmek için onları sınıflandırmada yeni bir yaklaşım benimsedi. Geleneksel araçlar yerine, bu dizileri hem evrimsel ilişkilerine hem de primat genomundaki koruma düzeylerine göre gruplandırdılar.

Özellikle MER11 adlı bir zıplayan gen ailesine odaklanan araştırmacılar, bu dizileri MER11_G1’den G4’e kadar dört alt gruba ayırdı. G1 en eski evrimsel dizileri, G4 ise en genç olanları temsil ediyordu.

MER11 ailesine bu yeni bakış açısıyla bakan ekip, bu grupların genom içinde düzenleyici bir işlev üstlenebileceğini ortaya koydu. Yani bu diziler, özellikle insan gelişiminin erken aşamalarında gen ifadesini açıp kapayan anahtarlar gibi davranıyor olabilir.

Gen ifadesini açıp kapamak, bir genin aktifleşip pasifleşmesini kontrol etmek anlamına geliyor. Gen ifadesi açıksa gen çalışıyor demektir, yani o genin taşıdığı talimatlara göre bir protein üretilir. Gen ifadesi kapalıysa gen devre dışıdır; protein üretimi gerçekleşmez.

EN GENÇ GRUP EN GÜÇLÜ ETKİYE SAHİP

Araştırmacılar, “lentiMPRA” adı verilen özel bir teknik de kullandı. İnsan kök hücreleri ve erken dönem sinir hücreleri üzerinde 7 bin MER11 dizisi test edildi.

Sonuçlar, en genç grup olan MER11_G4’ün gen ifadesi üzerinde en güçlü etkiye sahip olduğunu gösterdi. Araştırmaya göre bu grup, gen gelişimini ve tepkisini etkileyen kısa DNA dizilerini, yani “düzenleyici motifleri” kullanıyor.

Bu grubun evrimsel geçmişini izleyen bilim insanları, kadim virüslerden miras alınan DNA dizilerinin halen primat genomunun şekillenmesinde ve işlemesinde aktif rol oynayabildiğini ortaya koydu.

İnsan genomunu anlama yolculuğu 150 yılı aşkın süredir devam etse de, her yeni buluşta şaşırtmaya devam ediyor.

Okumaya Devam Et

Teknoloji

Proton’dan “mahrem” yapay zeka geldi: Lumo kullanıma sunuldu

Yayımlandı

üzerinde

Gizlilik odaklı hizmetleriyle tanınan Proton, son yıllarda Proton Mail, Proton ve benzeri uygulamalarıyla dikkat çekmişti. Geçen yıl ise yapay zeka alanına ilk adımını, Proton Mail’e entegre ettiği yazı asistanı Scribe ile atmıştı. Scribe, kullanıcıların verileri büyük şirketlerine gitmeden yapay zeka desteğinden faydalanmasını sağlamıştı.

Şimdi ise şirket, yeni ve iddialı bir ürünle sahnede: Lumo adlı tam donanımlı bir yapay zeka sohbet asistanı.

TAMAMEN GİZLİLİK ODAKLI

BGR’ye göre Lumo, rakipleri olan ChatGPT, Gemini ya da Claude gibi modellerin aksine tamamen gizliliği ön planda tutuyor. Bu da şu anlama geliyor:

– Tüm sohbetler uçtan uca şifreleniyor.

– Hiçbir sohbet kaydı tutulmuyor.

– Sohbet geçmişi yalnızca kullanıcının cihazında (bulutta değil) saklanıyor.

– Veriler hiçbir şekilde model eğitimi için kullanılmıyor.

Şirketin kullandığı “zero-access encryption” sayesinde, veriler saklansa bile şirketin sunucularında dahi okunamaz durumda olacak.

Bu yaklaşım, bugüne kadar Meta, OpenAI, Anthropic gibi şirketlerin yapay zeka sistemlerinde sıkça eleştirilen veri toplama uygulamalarına güçlü bir alternatif olabilir. Zira bu sistemlerde yapılan sohbetlerin eğitim verisi olarak saklanabileceği uyarısı sıkça yapılıyor. Lumo, bu kaygıları tamamen ortadan kaldırmayı hedefliyor.

AÇIK KAYNAKLI

Lumo, Proton’un 11 yıldır hizmetlerinde uyguladığı “sıfır erişim şifreleme” prensibiyle inşa edildi. Dikkat çeken diğer özellikler şunlar:

– Tamamen açık kaynaklı bir büyük dil modeliyle çalışıyor.

– Tüm kodlar, Avrupa’daki sunucularda barındırılıyor ve şeffaf biçimde erişilebilir.

– Lumo, web araması yapabiliyor, dosya yüklemelerini destekliyor ve Proton Drive ile tam entegre çalışıyor.

– Proton Drive üzerinden Proton Docs (şifreli Google Docs alternatifi) ile de uyumlu.

NASIL KULLANILIR?

Sohbet botuna “me” uzantılı “luma.proton” adresinden erişmek mümkün. Android ve iPhone cihazlar için mobil uygulamalar da geliştirildi.

Lumo Plus aboneliği ise sınırsız sohbet, genişletilmiş sohbet geçmişi gibi özelliklere sahip. Abonelik ücreti aylık 12,99 dolar olarak belirlendi.

YAPAY ZEKAYLA MAHREMİYET MÜMKÜN MÜ?

Proton’un Lumo ile verdiği mesaj şu: Yapay zeka kullanmak zorunda kalmadan özel hayatınızdan vazgeçmek zorunda değilsiniz.

Açık kaynak kod, şifreleme teknolojileri ve kullanıcı odaklı veri politikaları sayesinde Lumo, gizliliğe önem veren kullanıcılar için güçlü bir alternatif olabilir.

Bu hamle, Proton’u yapay zekâ dünyasında hem teknolojik gelişme hem de etik ilke bakımından dikkatle izlenmesi gereken bir oyuncu haline getirebilir.

Okumaya Devam Et

Çok Okunanlar