Nöbetçi Eczaneler
Aralarında Elon Musk, Steve Wozniak, Yuval Noah Harari, John J Hopfield gibi ünlü girişimci, yönetici, yazar ve akademisyenlerin de bulunduğu konuyla yakından ilgili çok sayıda insan; GPT-4’den daha güçlü yapay zekalar(YZ) ile çalışan laboratuvarların bu sistemleri eğitme işlemlerine en az 6 ay ara vermelerini isteyen açık mektuba imzacı oldu. Bu isteğin sebebi onlara göre kontrolsüz gelişen YZ sistemlerinin toplum ve insanlık için büyük riskler taşıması… Açık mektupta geçen bir ifade şu şekilde: “Geniş çapta kabul gören Asilomar Yapay Zeka İlkeleri’nde belirtildiği gibi, gelişmiş bir YZ süreç içinde Dünya üzerindeki yaşamda kökten bir değişikliği temsil edebilir; bu nedenle orantılı özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ancak son aylarda görülen o ki bu planlama ve yönetim gerçekleşmediği gibi YZ laboratuvarları kendilerinin bile anlayamadığı dijital zihinler oluşturmak üzerine yarışa girdi…”
Ancak işin vahim kısmı aslında burası değil metnin devamında sorulan sorular da saklı…
- YZ’nın bilgi kaynaklarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz?
- İnsani olanlar dahil tüm işleri otomatikleştirmeli miyiz?
- Sonunda sayıca üstün olabilecek, zekamızı alt edebilecek ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz?
- Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz?
sorularını soruyor ve devamında: “Böyle bir karar seçilmemiş teknoloji liderlerine bırakılmamalıdır…” diye aktarıyor. Sonrasında genel olarak ve verilmesi istenen 6 ay arada kontrol, güvenlik, yönetim, politika vb. konularda neler yapılabileceği ile öneriler sunan mektup YZ’ya karşı olmadığını ve kontrollü gelişirse insanlığa güzel bir gelecek sunacağını belirten ifadelerle son buluyor.
Peki birden neden böyle bir endişe ortaya çıktı? Aslında bu tip endişeler YZ fikrinin ortaya çıkmasından günümüze kadar süregeliyor. Ancak son günlerde YZ ile nihai kullanıcının yapabileceklerinin sınırları eskisine nazaran daha belirsizleşmiş görünüyor. Sosyal medyaya servis edilen ve bir süre gerçek sanılan Papa’nın şişme montlu ve Trump’ın güya tutuklanırken çekilmiş fotoğrafları YZ tarafından yapıldı. Buradan hareketle başlayan tartışmalar çok ilgili olmayan insanlara bile YZ’nın yeteneklerinin nerelere varabileceğini düşündürüyor. Bazı yazarlar, YZ eğer bu şekilde ilerlerse 2050 yıllarında neyin gerçek neyin sahte olduğunu ayırt etmenin olanaksızlaşacağını belirtiyor. İnternet, dijitalleşme ve toplumun bunları kabul hızını da hesaba katarsak dezenformasyon patlamasının yaratacağı yeni hiper gerçeklik sonucunda yeni neslin “gerçek” tarihi olayların yerine sahte olanları kabul edeceği görüşü hakim oluyor. Yani YZ tarafından eskisi yok edilerek yeni bir geçmiş yaratılabilir. Tanıdık geliyor… Medya okuryazarlığı ve dijital okuryazarlığın oldukça önem kazanacağını söylemek abartı olmaz sanıyorum. Hatta bazı düşünürler YZ odaklı bu yeni dönemde dezenformasyondan korunmak adına “antivirüs” mantığıyla çalışan ticari ürünlerin ortaya çıkabileceğini belirtiyor.
YZ tabanlı Deepfake ile üretilen videolar, midjourney, DALL-E vb. ile üretilen görseller anlık bilgi akışına dahil olduğumuz sosyal medyada şimdilik gülüp geçeceğimiz bir evrede. Ancak bence “sense of reality” yani gerçeklik hissi diyebileceğimiz şey atomize bireyler olarak yaşadığımız günlük yaşamlarda hâlihazırda yara almış durumda. Her alanda tasarımın, mimarinin, iş modellerinin, (zaman değil) saatin, ekonominin, siyasetin, teknolojinin ve diğer süreçlerin yarattığı simülasyonun içinde algılarımızı kiraya vererek ilerliyoruz. Çok değil 50 yıl sonra esamesi okunmayacak küçücük şeyleri müthiş önemli zannederek ilmek ilmek (sahte) bir gerçeklik örüyoruz kendimize. Bu konuda zaten iyiyiz. YZ ise 4 tekerlekli bir bisikletten 2 tekere geçerken arkadan destek atan ebeveyn misali gideceğimiz yöne doğru bizi ittiriyor. Endişe verici olan şey ise ileride bir gün o bisiklete kendinin binmek istemesi ya da bisikleti tamamen ortadan kaldırması. İnsan hikayeleri sever; gerisi zaten yapay zekanın yaratacağı bir hikaye…
Özgün Çağlar Berkit