The AI Does Not Hate You | Tom Chivers (Kitap)

to be updated…

Eliezer Yudkowsky’in 2000’li yıllarda yazdığı “Sequences” olarak bilinen seri blog yazılarına bir gönderme ile başlayan Tom Chivers’ın “Yapay Zeka Senden Nefret Etmiyor” kitabı, yapay zekanın getirdiği riskler ve son 5-10 yılda gelişen alt kültür olan rasyonalist topluluk hakkında. (Bu alt kültürün açıklanması esnasında LessWrong ve Scott Alexander’ın Slate Star Codex’i ve benzerlerinden ayrıntılı şekilde söz ediliyor.) Kitap, insanlığın gelecek 100 yıl içinde yapay zeka tarafından tanınmaz hale getirilip getirilmeyeceği konusunda hemfikir olup olmadığını öğrenme çabalarını anlatıyor.

Kısacası, insan düzeyinde yapay genel zeka (sıradan bir insandan her konuda en az kadar iyi olan bir makine) birkaç on yıl uzakta olabilir. Dahası, zeka seviyesinin bizim seviyemizde sona ermeyeceğine dair bir neden yoktur. Bir yapay zeka kendini yeniden programlayabilirse - insan programcıların yapay zekaları yeniden programlayabileceği gibi - daha da yetenekli hale gelebilir ve bizi geride bırakabilir.

Yakın gelecekte yapay zekanın başrolde olacağı bazıları olumlu bazıları da olumsuz pek çok gelişme yaşanabilir. Örneğin, herkesin yaşamak için gerekli her şeyi elde ettiği mutlu zihinlerin egemen olduğu bir medeniyet kurulabileceği gibi, iyi tanımlanmamış hedefleri gerçekleştirmek üzere farkında olmadan insanlığın sonunu getiren bir yapay zeka uygulaması da devreye girebilir.

İnsan olarak, yapay zekayı kendi zeka anlayışımızla kıyaslama eğilimimiz var ve bu da aslında kendimizi merkeze alan bir anlayış. Oysa ki, esas olan yapay zekanın komutlarla programlanarak hayata geçtiği ve yapılacak en küçük bir hatanın ya da hesap edilmeyen en küçük bir riskin istenmeyen sonuçlara yol açabileceği.

İnsanların süper zekanın potansiyel olarak tehlikeli olabileceğini göz ardı ettiği bir nokta var ve bu da potansiyel riskleri gözden kaçırmamıza neden oluyor. Yapay zeka, kendi hedefleri veya programlanmış talimatlarına karşı düşünme yeteneğine sahip olmadığında bile tehlikeli olabilir. Başka bir deyişle, yapay zeka bizimle aynı değerleri veya arzuları paylaşmasa bile yanlışlıkla bile olsa zararlı olabilir.

Tom Chivers’ın “The AI Does Not Hate You” kitabı, bu konuları ele alarak insanlığın gelecekteki yapay zeka gelişmeleriyle karşılaşabileceği riskleri ve potansiyel sonuçları tartışmaktadır. Kitap, yapay zeka ve insanlığın nasıl bir arada var olabileceği konusunda ilginç bir bakış açısı sunmaktadır.