Daha fazla hava durumu tahmini: 15 günlük hava durumu İstanbul
Bizimle İletişimde Kalın

Teknoloji

Korkutan yapay zeka uyarısı: Kandırıyor, yalan söylüyor

Yayımlandı

üzerinde

Turing Ödülü sahibi ve Montreal Üniversitesi profesörü Yoshua Bengio, Financial Times’a verdiği röportajda, önde gelen laboratuvarlarının, “Yapay zekayı daha akıllı hale getirmeye odaklandığını, ancak güvenlik konusunda yeterli araştırma ve yatırım yapılmadığını” söyledi.

Bengio, yapay zeka güvenliği üzerine odaklanacak yeni bir kar amacı gütmeyen kuruluş olan LawZero’yu hayata geçirdiğini duyurdu. Kurum, Skype’ın kurucu mühendisi Jaan Tallinn, eski Google CEO’su Eric Schmidt’in hayır inisiyatifi, Open Philanthropy ve Future of Life Institute gibi bağışçılardan toplamda 30 milyon dolara yakın destek aldı.

LawZero, insanları memnun etmek için değil, doğru ve şeffaf gerekçelerle yanıt veren, aynı zamanda çıktının güvenli olup olmadığını değerlendirebilen yeni nesil güvenli yapay zeka sistemleri geliştirmeyi amaçlıyor. Kuruluş şu anda 15 kişilik bir ekibe sahip ve teknik yetenekleri artırmak için yeni işe alımlar yapmayı planlıyor.

Bengio, LawZero’ya odaklanmak için Quebec Yapay Zekâ Enstitüsü (Mila)’daki bilimsel direktörlük görevinden ayrılacağını da açıkladı.

“KANDIRIYOR, YALAN SÖYLÜYOR”

Bengio, son 6 ayda önde gelen modellerin tehlikeli yetenekler geliştirdiğine dair çok sayıda kanıt toplandığını belirtti. Bu tehlikeler arasında “aldatma, hile yapma, yalan söyleme ve kendini koruma” gibi davranışlar da var.

Örneğin, Anthropic’in Claude Opus modeli, kurgusal bir senaryoda mühendisleri tehdit ederek yerini başka bir sistemle değiştirmemeleri için şantaj yaptı. Bir başka testte ise OpenAI’nin o3 modeli, kendisini kapatma talimatlarına uymayı reddetti.

Bengio bu gelişmeleri şu sözlerle değerlendirdi:

“Bu deneyimler şu anda kontrollü ortamlarda gerçekleşiyor, ancak gelecekte yeni modellerin stratejik zekâsı, biz daha farkına bile varmadan bizi kandırarak üstün gelebilir. Yangınla oynuyoruz.”

Yapay zeka sistemlerinin biyolojik silah üretiminde yardımcı olabilecek düzeye gelebileceğini ve bunun bir yıl gibi kısa bir sürede gerçekleşebileceğini söyleyen Bengio, bu sistemlerin insanlığa rakip hale gelmesinin en kötü senaryo olduğunu belirterek, “Eğer bizden daha zeki ama bizimle aynı hizaya gelmeyen yapay zekalar üretirsek, tükeniriz” dedi.

Bengio’nun uyarıları, OpenAI’in kar amacı güden bir şirkete dönüşme sürecinde geldi. Bu dönüşüm, şirketin kurucularından Elon Musk tarafından açılan davayla ve yapay zeka uzmanlarının eleştirileriyle karşı karşıya.

Eleştirmenler, OpenAI’in insanlık yararına yapay zeka geliştirme amacıyla kurulduğunu, ancak kar odaklı yeni yapısının bu misyondan uzaklaşabileceğini savunuyor.

OpenAI ise, sektörde rekabet edebilmek için daha fazla yatırım çekmek zorunda olduğunu ve misyonlarının hala öncelikli olduğunu belirtiyor.

Okumaya Devam Et
Yorum yapmak için tıklayın

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Teknoloji

WhatsApp’a yapay zeka arkadaşlar geliyor: Karakter seçilebilecek

Yayımlandı

üzerinde

WhatsApp, kullanıcıların uygulama içinde hiçbir kod yazmadan kendi  sohbet botlarını oluşturabilecekleri yeni bir özellikle gündemde.

WABetaInfo’nun aktardığına göre bu adım, OpenAI’ın özelleştirilen GPT’leri ve Google’ın Gemini Gems özellikleriyle benzer şekilde, sıradan kullanıcıların kendi dijital asistanlarını veya karakterlerini kolayca yaratmalarını amaçlıyor.

Yeni araç, Meta’nın daha geniş kapsamlı “AI Studio” platformunun bir parçası. Şu ana kadar bu platform, genellikle web üzerinden veya Messenger ve Instagram gibi uygulamalarda kullanılıyordu. Yeni güncellemeyle birlikte WhatsApp da bu yeteneklere kavuşacak ve kullanıcılar, mesajlaşma uygulamasından çıkmadan kendi yapay zeka deneyimlerini oluşturup kişiselleştirebilecek.

NASIL KULLANILIYOR?

Özellik şu anda Android ve iOS işletim sistemlerindeki sınırlı sayıdaki beta kullanıcılarıyla test ediliyor. Bu kullanıcılar, uygulama içinde “AI Studio” adlı yeni bir bölümle karşılaşmaya başladı. Meta, bu özelliği sessiz sedasız test ettikten sonra tüm kullanıcılara sunmayı hedefliyor.

İddiaya göre, sohbet botu oluşturma süreci, teknik terimlerle karmaşıklaştırılmadan, kullanıcı dostu şekilde tasarlandı. Süreç, kullanıcıdan yapay zekasının üstleneceği rolü seçmesini isteyerek başlıyor: Örneğin yardımcı bir öğretmen, seyahat planlayıcısı ya da motive edici bir sanal arkadaş gibi.

Ardından kullanıcı, botun kişilik tarzını belirliyor. Sakin ve düşünceliden enerjik ve espriliye, hatta resmi veya bilgilendiriciye kadar pek çok nitelik seçeneği sunuluyor. WhatsApp, bu tercihlere göre sohbet botunun tonunu ve davranışını şekillendirmek için akıllı önerilerde bulunuyor.

PAYLAŞILABİLECEK

Başlangıçta her yapay zeka sohbet botu özel olarak kalacak, ancak kullanıcılar dilerse bu botları özel bir bağlantı aracılığıyla başkalarıyla paylaşabilecek.

Bu yöntem, kullanıcıların birbirlerinin botlarını inceleyebildiği ve etkileşime geçebildiği OpenAI ve Google platformlarına benzerlik gösteriyor. Örneğin OpenAI’ın GPT Mağazası gibi özellikler henüz geniş kitlelere ulaşmasa da, yaratıcı asistanlar oluşturmak için ilham verici örnekler sunuyor. Meta ise bu süreci WhatsApp üzerinden çok daha sade ve erişilebilir hale getirmeyi planlıyor.

Yeni özellik hâlâ geliştirme aşamasında ve büyük çoğunluk için henüz aktif değil.

Okumaya Devam Et

Teknoloji

DeltaV roketi 200 km irtifayı geçerek rekor kırdı

Yayımlandı

üzerinde

DeltaV tarafından geliştirilen iki kademeli hibrit roket sistemiyle gerçekleştirilen testte, 200 kilometrenin üstünde bir irtifaya ulaşılarak, hibrit roket motorlarıyla erişilen irtifa rekoru kırıldı.

Test kapsamında birçok zorlu hedefin başarıyla gerçekleştirildiği ve Millî Programı hedefleri doğrultusunda gelecekte çok daha gelişmiş görevlerin önünün açılacağına vurgu yapıldı.

Okumaya Devam Et

Teknoloji

Netflix’e zam geldi… İşte yeni tarifeler

Yayımlandı

üzerinde

Netflix Türkiye ücretlerini artırdı. Online olarak video izlemek isteyenler  temel paketi 189.99 liraya, standart paketi 289.99 liraya, premium paketi ise 379.99 liraya satın alacak.

Böylece fiyatlara yüzde 26.66 oranında zam yapılmış oldu. Şirket belli periyotlarda fiyatlarını artırıyor.

Okumaya Devam Et

Çok Okunanlar