Marc Andreessen’in AI Hakkındaki Görüşleri: Endişelenmeyi Bırakın ve İnşa Etmeye Başlayın, diyor AI Sizi Öldürmek İstemiyor

‘Seni öldürmek istemiyor’

Risk sermayedarı Marc Andreessen, “yazılım dünyayı yiyor” sözüyle tanınır. Yapay zeka söz konusu olduğunda, insanların endişelenmeyi bırakıp inşa etmeleri, inşa etmeleri, inşa etmeleri gerektiğini iddia ediyor.

Salı günü Andreessen, yapay zeka hakkındaki görüşleri, getirdiği riskler ve gerektirdiğine inandığı düzenleme hakkında yaklaşık 7.000 kelimelik bir mektup yayınladı. Son zamanlardaki tüm “AI kıyameti” konuşmalarına karşı koymaya çalışırken, sonuçlara ilişkin aşırı idealist bir bakış açısı olarak görülebilecek bir şey sunuyor.

Andreessen, AI’yı veya makine öğrenimini doğru bir şekilde ele alarak başlıyor ve buna “bilgisayarlara insanların nasıl yaptığına benzer şekillerde bilgiyi nasıl anlayacaklarını, sentezleyeceklerini ve üreteceklerini öğretmek için matematik ve yazılım kodunun uygulanması” diyor.

Yapay zekanın duyarlı olmadığını, insan dilini taklit etme yeteneğinin bazılarını anlaşılır bir şekilde tersine inandırabilmesine rağmen, diyor. İnsan dili üzerine eğitilmiştir ve bu verilerde üst düzey kalıplar bulur.

“Yapay zeka istemiyor, hedefleri yok, sizi öldürmek istemiyor çünkü canlı değil” diye yazdı. “Ve yapay zeka bir makinedir – tost makinenizden daha fazla canlanmayacaktır.”

Andreessen, şu anda yapay zeka dünyasında bir “korku tellallığı ve felaket duvarı” olduğunu yazıyor. İsim vermeden, muhtemelen teknolojinin insanlık için varoluşsal bir tehdit oluşturduğuna dair yüksek profilli teknoloji liderlerinin iddialarına atıfta bulunuyor. Geçen hafta, Microsoft kurucusu Bill Gates, OpenAI CEO’su Sam Altman, DeepMind CEO’su Demis Hassabis ve diğerleri, Center for AI Safety’den “AI kaynaklı yok olma riski” hakkında bir mektup imzaladılar.

Kadercilikten idealizme

Andreessen, Tech CEO’larının bu tür kıyamet günü görüşlerini teşvik etmeye motive olduklarını çünkü “yeni girişimlerden ve açık kaynak rekabetinden korunan, devlet tarafından kutsanmış yapay zeka satıcılarından oluşan bir kartel oluşturan düzenleyici engeller kurulursa daha fazla para kazanmaya hazır olduklarını” yazdı.

Birçok AI araştırmacısı ve etik uzmanı da kıyamet günü anlatısını eleştirdi. Bir argüman, AI’nın artan gücüne ve gelecekteki tehditlerine çok fazla odaklanmanın, bazı algoritmaların belirsiz bir gelecekten ziyade şu anda marjinal topluluklara neden olduğu gerçek hayattaki zararlardan uzaklaştırdığıdır.

Ancak Andreessen ve araştırmacılar arasındaki benzerliklerin çoğu burada sona eriyor. Andreessen, yapay zeka güvenlik uzmanı, yapay zeka etik uzmanı ve yapay zeka risk araştırmacısı gibi rollerdeki kişilere “ölümcül olmaları için para ödendiğini ve ifadelerinin uygun şekilde işlenmesi gerektiğini” yazdı. Gerçekte, AI araştırma, etik ve güven ve güvenlik topluluğundaki birçok lider, kıyamet gündemine açık bir şekilde karşı çıktıklarını ve bunun yerine teknolojinin günümüzün belgelenmiş risklerini hafifletmeye odaklandıklarını belirtti.

Yapay zekanın belgelenmiş gerçek hayattaki risklerini kabul etmek yerine – önyargıları yüz tanıma sistemlerini, kefalet kararlarını, ceza adaleti işlemlerini, ipotek onay algoritmalarını ve daha fazlasını etkileyebilir – Andreessen, yapay zekanın “önem verdiğimiz her şeyi daha iyi hale getirmenin bir yolu” olabileceğini iddia ediyor.

AI’nın üretkenlik, bilimsel atılımlar, yaratıcı sanatlar ve savaş zamanı ölüm oranlarını azaltmak için büyük bir potansiyele sahip olduğunu savunuyor.

“Bugün insanların doğal zekalarıyla yaptıkları her şey yapay zeka ile çok daha iyi yapılabilir” diye yazdı. “Ve tüm hastalıkları iyileştirmekten yıldızlararası seyahate kadar yapay zeka olmadan üstesinden gelinmesi imkansız olan yeni zorlukların üstesinden geleceğiz.”

Çin gerçek tehdit mi?

Andreessen, gönderisinin sonuna doğru “Yapay zekayı maksimum güç ve hızla takip etmemenin gerçek riski” olarak adlandırdığı şeye dikkat çekiyor.

Bu riskin, yapay zekayı hızla ve son derece endişe verici otoriter uygulamalarla geliştiren Çin olduğunu söylüyor. Yıllarca belgelenen vakalara göre Çin hükümeti, protestocuları izlemek ve tanımlamak için yüz tanıma ve telefon GPS verilerini kullanmak gibi gözetleme yapay zekasına güveniyor.

Andreessen, Çin’in yapay zeka etkisinin yayılmasını önlemek için, “Yapay zekayı olabildiğince hızlı ve sert bir şekilde ekonomimize ve toplumumuza yönlendirmeliyiz” diye yazıyor.

Ardından, büyük teknoloji şirketleri ve yeni girişimler adına ve “özel sektörümüzün, bilimsel kuruluşumuzun ve hükümetlerimizin tüm gücünü” kullanarak agresif bir yapay zeka geliştirme planı sunuyor.

Andreessen, dünyanın nereye gittiğine dair bir kesinlik düzeyiyle yazıyor, ancak ne olacağını tahmin etmede her zaman harika değil.

Firması, 2021’in ortalarında, endüstri çökmeye başlamadan kısa bir süre önce 2,2 milyar dolarlık bir kripto fonu başlattı. Pandemi sırasındaki en büyük bahislerinden biri de, insanlar alternatif eğlence biçimleri ararken evde mahsur kalırken değeri 4 milyar dolara yükselen sosyal ses girişimi Clubhouse’a oldu. Nisan ayında Clubhouse, şirketi “sıfırlamak” için personelinin yarısını işten çıkardığını söyledi.

Andreessen’in makalesi boyunca, AI hakkındaki görüşlerini kamuya açık bir şekilde ifade etme söz konusu olduğunda başkalarının sahip olduğu art niyetleri dile getiriyor. Ama kendine ait. Yapay zeka devriminden para kazanmak istiyor ve bu hedefi göz önünde bulundurarak girişimlere yatırım yapıyor.

Yazısını, “Onların pervasız veya cani olduklarına inanmıyorum” diyerek noktaladı. “Onların her biri birer kahraman. Firmam ve ben, elimizden geldiğince çoğunu desteklemekten heyecan duyuyoruz ve onların ve çalışmalarının %100 yanında olacağız.”

KOL SAATİ: AsumeTech’in Altimeter Capital’den Brad Gerstner ile röportajı