BU EGO 1942’YE GİTSEYDİ – II
Geçen sefer Elon Musk’ı 1942’ye göndermiştim.
Bu defa götürmeyeceğim.
Adamın zaten yeterince işi var.
Hem mesele Elon Musk da değilmiş galiba.
Mesele bizim bugünkü aklımızı, daha doğrusu akıl sandığımız şeyi, 1942’ye götürmek.
Cebimizde yapay zekâ.
Dünyanın neredeyse bütün bilgisi elimizde.
Savaşların sonuçlarını biliyoruz.
Kim kazandı, kim kaybetti biliyoruz.
Hangi ülke ne zaman battı, hangi şirket yükseldi, hangi para değerlendi, hangi lider yanıldı…
Son seksen küsur yılın sınav sorularını ve cevap anahtarını yanımıza almışız.
Roosevelt’in odasına giriyoruz.
Adam bize bakıyor.
“Gelecekten mi geldiniz?”
Evet.
“Ne getirdiniz?”
Bilgi.
“Ne kadar?”
Neredeyse hepsi.
Sonra muhtemelen çok basit bir soru sorardı:
“Peki daha akıllı oldunuz mu?”
İşte orada kalırdım.
Çünkü bazı soruların cevabı Google’da yok.
ChatGPT’de de olmayabilir.
Dünyanın her tarafı birbirine girmiş.
Tank sayılıyor.
Uçak sayılıyor.
Petrol sayılıyor.
Asker sayılıyor.
Ölü sayılıyor.
Bir savaş aslında dev bir fizibilite çalışması gibi.
Şu kadar tank gönderirsem ne olur?
Buradan çıkarma yaparsam kaç kişi ölür?
Şu fabrikayı vurursam düşmanın üretimi yüzde kaç düşer?
Bir taraftan bakınca benim Fizibilatör’ün dedesi bile sayılır.
Ama bir sorun var.
Fizibilitede en önemli şey hedefi doğru yazmaktır.
“Savaşı kazan.”
Tamam.
Ama ne pahasına?
İşte makinenin rahat olduğu yerle insanın rahatsız olmaya başladığı yer tam olarak burası olabilir.
Bugün her şeyi optimize etmeye meraklıyız.
Trafiği optimize ediyoruz.
Vergiyi optimize ediyoruz.
Üretimi optimize ediyoruz.
Personeli optimize ediyoruz.
Reklamı optimize ediyoruz.
Evlilik uygulamaları insanı bile optimize ediyor.
Sana uygun insan.
Sana uygun ev.
Sana uygun araba.
Sana uygun haber.
Sana uygun siyasi görüş.
Bir süre sonra insan kendi hayatında misafir gibi yaşamaya başlayabilir.
Çünkü önüne sürekli “sana uygun olan” geliyor.
Peki sana uygun olmayan ama seni değiştirecek olan ne olacak?
Orası biraz karışık.
Geçen yazıda eşleşmeleri düşünmüştüm.
Şimdi düşünüyorum da mesele eşleşmekten daha büyük.
Belki sistemler artık bizi eşleştirmiyor.
Eliminasyon yapıyor.
Seni seçtim.
Seni seçmedim.
Sana kredi var.
Sana yok.
Sen bu işe uygunsun.
Sen değilsin.
Sen bu içeriği gör.
Sen görme.
Sen bu ülkeye girebilirsin.
Sen giremezsin.
Çocukken mahallede maç yapardık.
İki kişi takım kurardı.
Herkes sıraya dizilirdi.
İlk seçilenler sevinirdi.
Son iki kişi kalınca insanın içine garip bir şey otururdu.
Şimdi mahalle büyüdü.
Takımı algoritma kuruyor.
Üstelik seni neden en sona bıraktığını da bilmiyorsun.
1942’de Japon kökenli Amerikalılar kamplara gönderildi.
Savaş.
Korku.
Pearl Harbor.
Güvenlik.
Devlet açısından bakınca bin çeşit gerekçe üretilebilir.
Bugünkü yapay zekâ o gün masada olsaydı ne söylerdi acaba?
“Risk analizi yaptım.”
“Bu grubun izlenmesini öneriyorum.”
Belki çok düzgün tablolar da hazırlardı.
Yüzdeler.
Haritalar.
Olasılıklar.
Yeşil, sarı, kırmızı bölgeler.
Sunum gayet profesyonel görünürdü.
Sonra yıllar geçerdi.
Tarih gelip bütün o güzel grafikleri çöpe atardı.
Çünkü bazen hesabın doğru olması kararın doğru olduğu anlamına gelmiyor.
Bu cümleyi son zamanlarda çok düşünüyorum.
Doğru hesaplanmış yanlış kararlar.
Belki önümüzdeki dönemin en büyük tehlikelerinden biri bu olacak.
Hiroşima.
Yine bir masa.
Kaç Amerikan askeri ölür?
Japonya ne kadar daha direnir?
Savaş kaç ay sürer?
İşgalin maliyeti nedir?
Atom bombası savaşı erken bitirir mi?
Bunların hepsi hesaplanabilir.
Bir bilgisayara sorabilirsiniz.
Bir yapay zekâya daha hızlı sordurabilirsiniz.
Fakat son soru:
“Bombayı atalım mı?”
Bu soru başka bir yere ait.
Belki de insanın bütün trajedisi burada.
Hesap yapabilecek kadar zeki olmakla, hesabın dışına çıkabilecek kadar insan olmak arasındaki yerde.
Geçenlerde “HAMA” kelimesini düşünüyordum.
Bizim oralarda bir kelimenin içine bazen on tane duygu sığar.
Türkçeye çevirsen cümle olur.
Bazı şeyler de öyle.
Rakamın içine sığmıyor.
Bir annenin oğlunu savaşa göndermesi Excel hücresine sığmıyor.
Bir insanın yıllarca çalışıp kredi alamaması risk skoruna sığmıyor.
Bir çocuğun fakir bir mahallede doğmuş olması onun geleceğini hesaplayan modele sığmamalı.
Ama biz garip bir çağ kuruyoruz.
Ölçemediğimiz şeyleri yok saymaya başladık.
Belki de “hama” tam burada lazım.
Rakamın söyleyemediği yerde.
Schopenhauer’in kirpilerini de düşünmeden edemiyorum.
Soğukta birbirlerine yaklaşırlar.
Çok yaklaşınca dikenleri batar.
Uzaklaşınca üşürler.
İnsan ilişkisi biraz böyle.
Devletler de böyle.
Şirketler de.
Şimdi araya algoritmalar girdi.
Kirpilere diyor ki:
“Sen 37 santimetre yaklaş.”
“Sen 42 santimetre.”
“Bu mesafede diken batma ihtimali yüzde 14,7.”
Belki doğru.
Ama kirpi bunu nereden bilecek?
Belki bazen canının yanması gerekiyordur.
Belki bazen fazla yaklaşması.
Belki bazen yanlış insana güvenmesi.
Belki hayat dediğimiz şeyin bir kısmı zaten yanlış eşleşmelerden oluşuyordur.
Bunu tamamen ortadan kaldırırsak daha güvenli bir hayat mı kurarız?
Yoksa steril bir hapishane mi?
1942’de Roosevelt’e bugünkü yapay zekâyı bırakıp dönmeye hazırlanırken adam cihazı biraz kurcalıyor.
Sonra soruyor:
“Bu geleceği biliyor mu?”
“Hayır.”
“Ne yapıyor?”
“Geçmişteki verilerden geleceği tahmin ediyor.”
Biraz düşünüyor.
“Yani geçmişi çok iyi bilen bir makine yaptınız.”
Evet.
“Sonra geleceğinizi ona soruyorsunuz.”
Evet.
Adamın yüzündeki ifadeyi hiç sevmedim.
Çünkü cümleyi bitirmesine gerek kalmadı.
Belki mesele yapay zekâ değil.
Belki mesele bizim ondan ne istediğimiz.
Biz ona sürekli:
En kârlıyı bul.
En güvenliyi bul.
En başarılıyı bul.
En uygun insanı bul.
En iyi yatırımı bul.
En düşük riski bul.
diyoruz.
Bir gün bize dönüp:
“Tamam, buldum. Ama bu listede siz yoksunuz.”
derse ne yapacağız?
Bu ihtimal bana teknolojinin bizi işsiz bırakmasından daha ilginç geliyor.
Belki gelecek zenginlerle fakirler arasında değil;
algoritmaların tercih ettikleriyle etmedikleri arasında bölünecek.
Bir tarafta kredi verilebilir insanlar.
İşe alınabilir insanlar.
Sigortalanabilir insanlar.
Vize verilebilir insanlar.
Yatırım yapılabilir fikirler.
Diğer tarafta…
Kimse onlara “değersizsiniz” demeyecek.
Öyle kaba bir çağda yaşamıyoruz.
Daha medeni bir cümlemiz var:
“Kriterlerimize uygun değilsiniz.”
Ne kadar zarif.
Ne kadar acımasız.
1942’den çıkmadan önce yapay zekâya son bir soru soruyorum.
“İnsanlık seksen dört yılda ne öğrendi?”
“Daha fazla veri toplamayı.”
“Başka?”
“Daha hızlı hesaplamayı.”
“Başka?”
Biraz bekliyor.
“Kararlarını daha iyi gerekçelendirmeyi.”
Bu cevap hoşuma gitmiyor.
“Daha akıllı olduk mu?”
Uzun süre cevap vermiyor.
Sonra ekrana bir cümle düşüyor:
“Bunu doğrulayacak yeterli veri yok.”
Gülüyorum.
Belki insanlığın hâlâ bir şansı vardır.
Çünkü makinenin elinde bütün geçmiş olabilir.
Ama insanın elinde hâlâ bir şey var:
İtiraz etmek.
Hesap doğruysa bile.
Çoğunluk öyle diyorsa bile.
Sistem uygun bulmuyorsa bile.
Belki insanı insan yapan şey doğru cevabı bulması değildir.
Bazen;
cevabın yanlış soruya verilmiş doğru cevap olduğunu fark edebilmesidir.
Yorumlar