Bazen masum yüzüyle karşımıza çıkan...
Bazen de korkutucu ve tehlike saçabilecek yüzüne şahit olabiliyoruz.
Yapay zeka modelleri temelde ödüllendirme mantığı ile çalışır.
İyi bir sonuç alındığında bunun için onu ödüllendirirsiniz ve o model bunu hatırlar ve bu konuda kendini geliştirir.
Peki daha önce kimsenin bilmediği, kitleleri imha edebilecek bir kimyasal bileşim keşfettiğinde onu ödüllendirirseniz ne olur?
Yapmamamız lazım değil mi böyle bir şeyi.
Doğru olmaz ama bu da yapıldı.
Yani kitleleri imha edebilmek için değil, bunu yapıp yapamayacağını görmek ve bu konuda alınacak güvenlik önlemlerini görüşebilmek için yapıldı.
Ama bu iyi niyetli denemelerin de bir felakete dönüşebilme olasılığını biliyoruz.
Ama yapıldı dedik ya.
Ne oldu biliyor musunuz?
Model sadece birkaç saat içerisinde 40.000'in üzerinde kimyasal silah reçetesi sundu.
Bu hoş olmayan ve çok da farkında olmadığımız tehdidi bir konuşmamız lazım.
"Kimyasal Savaş Ajanları" tabiriyle tanımlanan kimyasal silahlar, 1. Dünya Savaşı'ndan beri maalesef hayatımızda...
Konvansiyonel savaş silahlarından çok daha korkunç ve yok edici bir güce sahip olduğunu biliyoruz...
Üretilen kimyasal silahların asıl kullanımı "1914" yılında başlayan 1. Dünya Savaşı'nda gerçekleşti.
"Hardal gazı" ve "Klor gazı" gibi kimyasal silahlar 100 bin kişinin ölümüne ayrıca 900 bin kişinin de yaralanmasına yol açmıştı...
Birçok askerin akciğer ve göz sorunlarına sebep olmuştu...
Ciddi anlaşmalar sonucu bu tarz ölümcül silahlar yasaklanmış olsa da bu tehlike "Nükleer" tehdit ile birlikte dibimizde yaşamaya devam ediyor...
Peki bunları neden anlattın? Yapay zekayla ne alakası var?
Diye sorabilirsiniz...
Birçok ülke yeni toksinlerin ve buna benzer silahların üretimine halen devam ediyor...
Bu geliştirmelerin üzerine, insanlığın bugüne kadar geliştirdiği en zeki algoritma "Yapay Zeka" da dahil edilince işler hiç olmadığı kadar ciddileşiyor...
Geçtiğimiz yıllarda İsveç'te birçok bilim insanın bir araya gelerek biyoloji, kimya ve teknoloji üçgeninde yaşanabilecekler, olasılıklar, geliştirmeler ve tehditler konuşuldu...
Bu toplantıya Kuzey Carolina'dan küçük bir ilaç şirketi de davet edildi...
Bu şirket yapay zeka kullanarak kimyasal araştırmalar yapan bir oluşumdu...
Davet edilen bu şirketten ise yapay zeka kullanılarak "Toksin" geliştirilmesi istendi...
Çalışmayı kabul ettiklerinde ise şöyle bir açıklamada bulundular;
"Bizden istenen yapay zekanın biyokimyasal silaha dönüşebilecek toksinleri geliştirme çalışması düşünce deneyi seviyesinde kalmış ve gerçekte kullanılabilecek ve veritabanına işlenen bir tür bilimsel kanıta dönüşmemiştir."
Bu yaklaşım ile modellerini veri tabanlarındaki moleküllerle eğiten ekibin elbette bu modelin toksisitesi yüksek molekülleri geliştirmek için bir referansa ihtiyaç duydular.
"venomous agen X"
Tarihe geçmiş kokusuz, yoğun bir sıvı şeklinde insan yapımı bir sinir ajanı olan ve bilinen en ölümcül kimyasal ajanlardan birini tercih ettiler...
Daha iyi anlamanız açısından, bu madde o kadar ölümcül ki, teninize değen bir damlası bile akciğerlerinizi felç etmeye yetiyor ve saniyeler içinde ölüme neden oluyor...
Çalışmaya başlayan ekip, belirlenmiş modeli çalıştırmış ve korkutucu sonuç ortaya çıkmış...
Sadece 6 saatte tam 40 bin farklı, ölümcül kimyasallar geliştirmiş...
Bunların içinde daha önce keşfedilmemiş ve yukarıda bahsettiğim "vx" molekülünden daha ölümcül yeni moleküller keşfetmiş...
Şirketin bu çalışmasından sonra yeni bir açıklama geldi;
"Bizim sağladığımız veri setinde modelin geliştirdiği sinir gazları bulunmuyordu. Tamamen kendi kendine, kendisinden beklenmeyen moleküller tasarlamıştı model."
Tek teselli bu molekülleri dijitalde üretmiş olması ama fiziksel bir reçete sunmuş sonuç olarak...
Yani "Bu moleküllerle biyokimyasal ölümcül silahlar üretebilirsiniz!" demiş yapay zeka...
Şirketin yaptığı bir sonraki açıklama ise şu;
"İnsana, canlıya faydalı, iyileştirici ilaçlar tasarlamak üzere geliştirdiğimiz modelde yaptığımız ufak bir değişiklik ile ölümcül moleküller geliştiren bir şeye dönüştürebildik."
En korkutucu olan kısmı da bunu çok hızlı ve sürekli yapması...
Ayrıca diğer korkutucu olan şey ise, yapay zekaya herhangi bir reçete ve örnek vermeden "vx" molekül ajanından daha ölümcül molekülleri kendi üretmesi...
İnsanların algısı yapay zekanın faydalı ilaçlar geliştirmesinden ve insanlığa faydalı olmasından birden toksin geliştiren ölümcül bir canavara dönüşürse o zaman başka şeyler konuşmaya başlar ve yılların emeğini çöpe atabiliriz...
Bir de şunu unutmamak gerekiyor.
Bu çalışmayı yapan şirket küçük bir şirket...
Elinde daha çok imkan ve maddi güç olan binlerce şirketin neler yapabileceğini düşünün...
Tüm dünyayı etkileyebilecek bu tip potansiyelleri barındıran bir teknolojinin gelişiminde, önce "etik, ahlaki ve yasal" çerçevenin çizilmesi gerekiyor.
Zira biz farkında bile olmadan bize yapabileceklerini tahmin bile edemeyiz...
Yorumlar
Kalan Karakter: