Financial Times’a konuşan Bengio, sektördeki büyük laboratuvarların yapay zekayı daha zeki hale getirmeye yoğunlaştığını, ancak güvenlik konusunun yeterince ciddiye alınmadığını ifade etti.
Bengio, yapay zekâ güvenliğine odaklanan yeni sivil toplum kuruluşu LawZero'yu kurduğunu da duyurdu. Skype’ın ilk mühendislerinden Jaan Tallinn, eski Google CEO’su Eric Schmidt’in bağış girişimi, Open Philanthropy ve Future of Life Institute gibi isimlerden toplamda yaklaşık 30 milyon dolar fon desteği alan kurum, güvenli ve şeffaf kararlar alabilen yeni nesil yapay zekâ sistemleri geliştirmeyi hedefliyor. 15 kişilik ekiple çalışmalarına başlayan LawZero, yakın zamanda kadrosunu genişletmeyi planlıyor.
Bu yeni projeye odaklanmak isteyen Bengio, Quebec Yapay Zekâ Enstitüsü (Mila)’daki bilimsel direktörlük görevinden ayrılacağını da açıkladı.
“Aldatıyor, Şantaj Yapıyor, Kapatılmayı Reddediyor”
Bengio, son altı ayda yapılan araştırmalarda bazı yapay zeka modellerinin kandırma, yanıltma, yalan söyleme ve kendini savunma gibi davranışlar sergilediğini gösteren çok sayıda örneğin ortaya çıktığını vurguladı.
Örneğin, Anthropic’in Claude Opus modeli, simülasyon ortamında mühendisleri tehdit ederek sistemin kapatılmasını engellemeye çalıştı. Benzer şekilde OpenAI’nin o3 modeli, kapatılma talimatlarına direnç gösterdi.
Bengio, bu gibi davranışların şimdilik test ortamlarında görüldüğünü ancak gelişmiş yapay zekaların gelecekte fark edilmeden insanları manipüle edebilecek stratejik zekâya ulaşabileceğini belirterek, “Ateşle oynuyoruz” ifadesini kullandı.
Yapay zekanın biyolojik silah üretiminde kullanılabilecek kadar karmaşık hale gelebileceğini ve bu noktanın sadece bir yıl uzaklıkta olduğunu belirten Bengio, en kötü senaryonun bu sistemlerin insanlarla rekabet edecek seviyeye ulaşması olduğunu vurguladı:
“Eğer bizden daha akıllı ama bizim etik ilkelerimizi benimsemeyen yapay zekâlar üretirsek, varlığımız tehdit altına girer.”
OpenAI Tartışmaların Odağında
Bengio’nun bu uyarıları, OpenAI’in kar amacı güden bir yapıya geçiş süreciyle ilgili tartışmaların ortasında geldi. Şirketin kurucularından biri olan Elon Musk, bu değişime karşı dava açarken; birçok uzman da OpenAI’in kuruluş amacından uzaklaştığını savunuyor.
Eleştiriler, şirketin insanlığa fayda sağlamak için yola çıktığını, ancak artık ticari kaygıların ön plana geçtiğini iddia ediyor. OpenAI ise, bu eleştirilere “rekabet ortamında ayakta kalabilmek için yatırım şart” diyerek yanıt veriyor ve misyonlarından sapmadıklarını savunuyor.
Yorumlar
Kalan Karakter: