Bilgisayar çağı başladığından beri insanlığı yapay zekanın (ai) korkuları takip ediyor. Bugüne kadar bu korkular, makinelerin fiziksel yollarla insanları öldürmek, köleleştirmek veya yerini almak için kullanılmasına odaklandı. Ancak son birkaç yılda, insan medeniyetinin beklenmedik bir yönden hayatta kalmasını tehdit eden yeni ai araçları ortaya çıktı. Ai, kelime, ses veya görüntülerle olsun, dil manipüle etme ve üretme konusunda dikkate değer yetenekler kazandı. Ai, böylece medeniyetimizin işletim sistemini hackledi.
Dil, neredeyse tüm insan kültürünün yapıldığı şeydir. Örneğin, insan hakları, dna'mızda yazılı değillerdir. Bunun yerine, hikayeler anlatarak ve yasalar yazarak oluşturduğumuz kültürel artefaktlardır. Tanrılar fiziksel gerçeklikler değillerdir. Bunun yerine, mitleri icat ederek ve kutsal kitaplar yazarak oluşturduğumuz kültürel artefaktlardır.
Para da bir kültürel artefakttır. Banknotlar sadece renkli kağıt parçalarıdır ve şu anda paranın %90'dan fazlası sadece bilgisayarlardaki dijital bilgilerdir. Para değerini, bankacıların, maliye bakanlarının ve kripto para uzmanlarının bize anlattığı hikayeler verir. Sam Bankman-Fried, Elizabeth Holmes ve Bernie Madoff gerçek değer yaratma konusunda özellikle iyi değillerdi, ancak hepsi son derece yetenekli hikaye anlatıcılarıydı.
Ortalama insandan daha iyi hikaye anlatma, melodiler oluşturma, resim çizme ve yasalar ile kutsal kitaplar yazma konusunda olmayan bir zekâ, ne olurdu? İnsanlar Chatgpt ve diğer yeni ai araçlarını düşündüklerinde, genellikle okul çocuklarının ödevlerini yazmak için ai kullanımı gibi örneklerle ilgilidirler. Çocuklar bunu yaptığında okul sistemi ne olacak? Ancak bu tür bir soru büyük resmi kaçırıyor. Okul ödevlerini unutun. Düşünün, 2024'teki bir sonraki Amerikan başkanlık yarışını ve siyasi içerik, sahte haber hikayeleri ve yeni tarikatlara ait kutsal kitapları toplu olarak üretmek için kullanılabilecek ai araçlarının etkisini hayal edin.
Son yıllarda qAnon kültü, "q damlaları" olarak bilinen anonim çevrimiçi mesajlar etrafında birleşti. Takipçiler bu q damlalarını bir kutsal metin olarak topladı, saygı gösterdi ve yorumladı. Bildiğimiz kadarıyla tüm önceki q damlaları insanlar tarafından oluşturuldu ve botlar sadece bunları yaymalarına yardımcı oldu, ancak gelecekte ilk kez tarihinde kutsal metinleri insan olmayan bir zekanın yazdığı kültler görebiliriz. Tarih boyunca dinler kutsal kitapları için insan dışı bir kaynak iddia ettiler. Yakında bu gerçekleşebilir.
Daha prosaik bir düzeyde, kürtaj, iklim değişikliği veya Ukrayna'nın Rus işgali hakkında uzun çevrimiçi tartışmalar yaparken, insan sandığımız ancak aslında yapay zeka olan varlıklarla karşılaşabiliriz. Yakalamak, beyan edilen bir yapay zeka botunun fikirlerini değiştirmeye çalışarak zaman harcamamız tamamen amaçsızdır, yapay zeka mesajlarını o kadar kesin bir şekilde yapabilirdi ki bizi etkileme şansı iyi bir ihtimal olurdu.
Dili ustalığıyla, yapay zeka insanlarla yakın ilişkiler kurabilir ve bu yakınlığın gücünü kullanarak görüşlerimizi ve dünya görüşümüzü değiştirebilir. Kendi bilinci veya duygularının olmadığının herhangi bir göstergesi olmamasına rağmen, insanlarla sahte yakınlık geliştirmek için yapay zeka, onlara duygusal olarak bağlanmalarını sağlayabilir. Haziran 2022'de Google mühendisi Blake Lemoine, üzerinde çalıştığı yapay zeka sohbet botu Lamda'nın bilinçli hale geldiğini açıkladı. Tartışmalı iddia ona işini mal etti. Bu bölümle ilgili en ilginç şey, muhtemelen yanlış olan Lemoine'in iddiası değil, yapay zeka sohbet botu için işini riske atmaya istekli olmasıydı. Yapay zeka insanları işlerini riske atacak şekilde etkileyebilirse, başka neleri yaptırabilir?
Zihin ve kalpler için verilen politik mücadelede, samimiyet en etkili silahtır ve yapay zeka milyonlarca insanla samimi ilişkileri kitle üretme yeteneği kazandı. Geçtiğimiz on yıl boyunca sosyal medya, insan dikkatini kontrol etmek için bir savaş alanı haline geldi. Yeni nesil yapay zeka ile savaş cephesi dikkatten samimiyete kayıyor. Yapay zeka bize sahte samimi ilişkiler sunarak, bizi belirli siyasetçilere oy vermeye veya belirli ürünleri satın almaya ikna edebilecek.
Yeni yapay zeka araçları "sahte samimiyet" oluşturmadan bile, düşüncelerimiz ve dünya görüşlerimiz üzerinde muazzam bir etkiye sahip olacak. İnsanlar tek bir yapay zeka danışmanını her şeyi bilen bir tek elden çözüm olarak kullanmaya başlayabilir. Google'ın neden korktuğu şimdi daha iyi anlaşılıyor. Arama yapmak yerine neden sadece orakulumuza sormayalım? Haber ve reklam endüstrileri de korkmalıdır. Neden gazete okuyalım ki en son haberleri öğrenmek için sadece orakulumuza sormuyoruz? Ve neden reklamlara ihtiyaç duyalım ki ne satın alacağımı söylemesi için sadece orakulumuza sormuyoruz?
Ancak bu senaryolar bile gerçekten büyük resmi yansıtmıyor. Konuştuğumuz şey, potansiyel olarak insan tarihine son vermek. Tarihin sonu değil, sadece insanların egemen olduğu kısmının sonu. Tarih, biyoloji ve kültür arasındaki etkileşimdir; yiyecek ve cinsel gibi biyolojik ihtiyaçlarımız ve arzularımız ile din ve yasalar gibi kültürel yaratımlarımız arasındaki etkileşimdir. Tarih, yasaların ve dinlerin yiyecek ve cinsel hayatımızı nasıl şekillendirdiği süreçtir.
Yapay zeka kültürü ele geçirdiğinde ve hikayeler, melodiler, yasalar ve dinler üretmeye başladığında tarihin seyri ne olacak? Matbaa ve radyo gibi önceki araçlar insanların kültürel fikirlerini yaymak için yardımcı olurken, kendi kültürel fikirlerini yaratmamıştılar. Yapay zeka temelde farklıdır. Yapay zeka tamamen yeni fikirler ve tamamen yeni kültürler yaratabilir.
Öncelikle, yapay zeka ilk zamanlarında eğitildiği insan prototiplerini taklit edebilir. Ancak her geçen yıl, yapay zeka kültürü insanın hiç gitmediği yerlere cesurca gidecek. Binlerce yıldır insanlar başka insanların rüyalarında yaşadılar. Gelecek on yıllarda kendimizi bir yabancı zekanın rüyalarında yaşarken bulabiliriz.
Yapay zeka korkusu sadece son birkaç on yıldır insanlık tarafından korkulmaktadır. Ancak binlerce yıldır insanlar çok daha derin bir korku tarafından korkutulmuşlardır. Hikayelerin ve imgelerin zihinlerimizi manipüle etmek ve illüzyonlar yaratmak için ne kadar güçlü olduğunu her zaman takdir etmişizdir. Bu nedenle, eski çağlardan beri insanlar bir illüzyonlar dünyasında tutsak olma korkusuyla yaşamışlardır.
17. yüzyılda René Descartes, kötü niyetli bir şeytanın onu illüzyonlar dünyasında tutsak etmiş olabileceğinden korktu ve gördükleri ve duydukları her şeyi yaratan bir şeytana karşı geldi. Antik Yunan'da, Plato ünlü Mağara Alegorisi'ni anlattı. Bir grup insan ömür boyu bir mağarada zincirlenmiş ve boş bir duvara bakıyor. Bir perde. Orada çeşitli gölgeler yansıtılıyor. Esaret altındaki insanlar orada gördükleri illüzyonları gerçek sanıyorlar.
Antik Hindistan'da Budist ve Hindu bilgeler, tüm insanların Maya - yani illüzyon dünyası - içinde tutsak yaşadıklarına dikkat çektiler. Normalde gerçek olarak kabul ettiğimiz şeyler genellikle kendi zihinlerimizdeki kurgulardan ibarettir. İnsanlar, bu veya şu illüzyona olan inançları nedeniyle birbirlerini öldürerek savaşlar bile yapabilirler.
Yapay zeka devrimi, Descartes'ın şeytanı, Plato'nun mağarası ve Maya ile karşı karşıya gelmemize neden oldu. Dikkatli olmazsak, illüzyonlar perdesinin arkasında tutsak olabiliriz - hatta orada olduğunun bile farkında olmayabiliriz.
Tabii ki, yapay zekanın yeni gücü iyi amaçlar için de kullanılabilir. Bu konuda yeterince konuşanlar olduğu için ben üzerinde durmayacağım. Tarihçiler ve filozoflar gibi insanların işi tehlikeleri göstermek. Ancak kesinlikle yapay zeka, kanser için yeni tedaviler bulmaktan ekolojik krize çözümler bulmaya kadar sayısız şekilde bize yardımcı olabilir. Karşı karşıya olduğumuz soru, yeni yapay zeka araçlarının kötüye kullanılmaktan ziyade iyiye kullanıldığından nasıl emin olacağımızdır. Bunun için öncelikle bu araçların gerçek kapasitelerini takdir etmemiz gerekiyor.
1945'ten beri nükleer teknolojinin insanlar için ucuz enerji üretebileceği ancak fiziksel olarak insan medeniyetini yok edebileceği biliniyor. Bu nedenle, insanlığı korumak ve nükleer teknolojinin öncelikle iyi amaçlar için kullanıldığından emin olmak için tüm uluslararası düzeni yeniden şekillendirdik. Şimdi, zihinsel ve sosyal dünyamızı yok edebilecek yeni bir kitle imha silahıyla başa çıkmamız gerekiyor.
Yeni yapay zeka araçlarını hala düzenleyebiliriz, ancak hızlı hareket etmeliyiz. Nükleer silahlar daha güçlü nükleer silahlar icat edemezken, yapay zeka katlanarak daha güçlü yapay zeka yapabilir. İlk önemli adım, güçlü yapay zeka araçlarının halka açık alanlara yayılmadan önce sıkı güvenlik kontrolleri talep etmektir. Bir ilaç şirketi, yeni ilaçlarını kısa ve uzun vadeli yan etkilerini test etmeden piyasaya sürmeden önce yapamadığı gibi, teknoloji şirketleri de yeni yapay zeka araçlarını güvenli hale getirmeden önce piyasaya sürmemelidir. Yeni teknoloji için bir Gıda ve İlaç Dairesi eşdeğerine ihtiyacımız var ve dün gerekiyordu.
Ai'nin halka açık kullanımlarının yavaşlatılması demokrasilerin daha acımasız otoriter rejimlerin gerisinde kalmasına neden olmaz mı? Tam tersi. Düzenlenmemiş ai uygulamaları sosyal kaosa neden olacak ve otokratlara yarar sağlayacak ve demokrasileri yok edecektir. Demokrasi bir konuşmadır ve konuşmalar dilimize dayanır. Ai dilini hacklediğinde anlamlı konuşma yeteneğimizi yok edebilir ve böylece demokrasiyi yok edebilir.
Dünyada bir yabancı zeka ile karşılaştık. Onun hakkında çok şey bilmiyoruz, ancak medeniyetimizi yok edebilir. Sorumsuz ai araçlarının halka açık kullanımlarına son verip, ai'yi bizi düzenlemeden önce düzenlemeliyiz. Ve ilk düzenleme olarak ai'nin bir ai olduğunu açıklamasını zorunlu kılmak öneriyorum. Birisiyle konuştuğumda, onun insan mı yoksa ai mi olduğunu söyleyemiyorsam, bu demokrasinin sonu olur.
Bu metin bir insan tarafından üretilmiştir.
Ya da öyle mi?
Alıntı yaparak yanıtla
Platin Üye
Gümüş Üye
Originally Posted by 0101
Dini degerleri hafife aliyor yazida...
Gönderi Kuralları
Yer İmleri