Daha Güvenli Bir Gelecek İçin Yapay Zekanın Risklerini Yönetmek

Yapay zekaya dayalı teknolojiler hızla hayatın her alanına giriyor: tıp, eğitim, finans, sosyal medya, otonom araçlar, programlama vb. İlerleme durdurulamaz, bu nedenle yapay zekanın etkisi her yıl artmaya devam edecektir. Bir önceki yazımızda yapay zekanın risklerini incelemiştik, şimdi ise yapay zeka kullanımıyla ilişkili olumsuz faktörlerin nasıl azaltılabileceğini araştıracağız.

Yapay zeka tespit araçları

Modern teknolojilerin yardımıyla ses, fotoğraf ve video uydurmak, deepfake'ler yaratmak, kamuoyunu manipüle etmek, başka bir kişinin sesini taklit etmek ve kanıtları tahrif etmek mümkün.

Araştırmacılar şu anda bir ses ya da video kaydının değiştirilip değiştirilmediğini ya da tamamen yapay zeka tarafından üretilip üretilmediğini belirlemelerine olanak tanıyan sahtecilikleri tespit etmenin yolları üzerinde çalışıyorlar.

Oluşturulan görüntüleri algılama

• Intel, FakeCatcher teknolojisine dayanan ilk gerçek zamanlı deepfake tespit platformunu oluşturdu. Teknoloji, bir görüntünün piksellerindeki ince "kan akışını" analiz etmek için uzaktan fotopletismografi tekniklerini kullanıyor. Birden fazla kareden gelen sinyaller, söz konusu videonun gerçek mi yoksa sahte mi olduğunu belirlemek için bir sınıflandırıcı aracılığıyla işleniyor.
• ABD devlet kurumu DARPA, yapay olarak oluşturulmuş sentetik görüntüleri doğru bir şekilde tespit edebilen SemaFor teknolojileri (Semantik Adli Tıp'ın kısaltması) üzerinde çalışıyor.

Ayrıca, oluşturulan görüntüleri ve metinleri tespit etmeyi amaçlayan onlarca farklı araç zaten var.

Eleştirel düşünme

Dezenformasyon, propaganda ve çeşitli aldatma yöntemleri yapay zekanın icadından çok önce de vardı. Belki siz ya da tanıdığınız biri dolandırıcılar tarafından hedef alınmışsınızdır. Bazı insanlar "Nijeryalı prens" miras e-postası gibi entrikalarla kolayca kandırılabilirken, diğerleri daha şüpheci ve eleştirel düşünür. Görüntüleri, sesleri ve videoları manipüle edebilen teknolojinin yükselişiyle birlikte, gerçekleri kontrol etme konusunda artık daha da özenli olmalıyız.

Fütürist Mark Ford dedi ki: "Neyin gerçek olup olmadığını kimse bilmiyor. Bu da gerçekten kendi gözlerinize ve kulaklarınıza inanamayacağınız bir duruma yol açıyor; tarihsel olarak mümkün olan en iyi kanıt olarak kabul ettiğimiz şeylere güvenemezsiniz."

Dolandırıcılık ve yanlış bilgilendirmeyle mücadele döngüsel bir süreç olacaktır: aldatmacayı tespit etmenin yeni yolları ortaya çıktıkça, diğerleri bunlara karşı koymanın yollarını geliştirecek ve daha da fazla koruma önleminin oluşturulmasına yol açacaktır. Tam bir koruma sağlamasa da savunmasız kalmayacağız.

Papa Francis'in sahte fotoğrafı

Yeni işler yaratmak

Yapay zekanın yaygın olarak benimsenmesi iş kaybı riskini de beraberinde getiriyor. Bu sorunu önceki makalelerden birinde ayrıntılı olarak ele almıştık. Orada ayrıca araştırmalara bağlantılar bulabilir, hangi mesleklerin en çok risk altında olduğunu ve hangilerinin risk altında olmadığını öğrenebilirsiniz.

Elbette birçok insan yapay zeka nedeniyle işini kaybedecek (çeşitli tahminlere göre 100 ila 800 milyon kişi) ve bazıları profesyonel olarak yeniden eğitim almak zorunda kalacak (Seo.ai bu sayıyı 120 milyon kişi olarak tahmin ediyor).

Ancak yapay zeka sadece işleri ortadan kaldırmakla kalmayacak, aynı zamanda yeni işler de yaratacaktır. Dahası, yeni işlerin eskilerinin ortadan kalkmasından daha hızlı ortaya çıktığı bir senaryo mümkün. İşte Dünya Ekonomik Forumu'nun bu konuda yazdıkları:

Yok edilen işlerin sayısı, yaratılan 'yarının işleri' sayısından fazla olacak olsa da, önceki yılların aksine, iş yaratma yavaşlarken iş yok etme hızlanıyor. Bu rakamlara dayanarak, 2025 yılına kadar 85 milyon işin insanlar ve makineler arasındaki iş bölümündeki değişim nedeniyle yer değiştirebileceğini ve 97 milyon yeni rolün ortaya çıkabileceğini tahmin ediyoruz.

Ortaya çıkan yeni işler arasında şunlar var:

• Yapay Zeka Model ve İstem Mühendisleri
• Arayüz ve Etkileşim Tasarımcıları
• Yapay Zeka İçerik Üreticileri
• Veri Küratörleri ve Eğitmenleri
• Etik ve Yönetişim Uzmanları

Yeni işlerden bazıları

Teknolojiyi kucaklamak

Bazı öğretmenler öğrencilerin yazma becerilerini geliştiremeyeceklerinden endişe ediyor çünkü yapay zeka onlar için çalışacak. Benzer bir durum elektronik hesap makinelerinin yaygınlaştığı 1970'li ve 1980'li yıllarda da yaşanmıştı. Matematik öğretmenleri, öğrencilerin artık temel aritmetiği öğrenemeyeceğinden endişe ediyordu.

Her zaman ilerleme karşıtları olmuştur. Binlerce yıl önce, Antik Yunan'da Sokrates yazının kendisine karşı çıkmıştı:

[Yazmak] öğrenenlerin ruhlarında unutkanlık yaratacaktır, çünkü hafızalarını kullanmayacaklardır; harici yazılı karakterlere güvenecekler ve kendilerini hatırlamayacaklardır. Keşfettiğiniz özel şey hafızaya değil, anımsamaya yardımcı olur ve öğrencilerinize gerçeği değil, yalnızca gerçeğin görüntüsünü verirsiniz; pek çok şeyi duyacaklar ve hiçbir şey öğrenmemiş olacaklar; her şeyi biliyor gibi görünecekler ve genellikle hiçbir şey bilmeyecekler; gerçek olmadan bilgelik gösterisine sahip olarak yorucu bir arkadaş olacaklar.

Antik Yunan'ı hatırlayacak kadar eski değilim ama matematik öğretmenim "Cebinizde her zaman bir hesap makinesi olmayacak" derdi. Ve tahmin edin ne oldu? Cebimde bir hesap makinesi var. Telefonumdaki bir uygulama.

İlerleme durdurulamaz. Er ya da geç insanlar yapay zeka temelli teknolojileri benimsemek zorunda kalacak. Yapay zeka, hesap makinesi kadar yaygın bir araç haline gelecek.

MathGPT Pro

Bu noktada, sohbet robotlarının kusurlu olduğunu, halüsinasyon görmeye eğilimli olduğunu ve üretilen bilgilerin doğruluğunun dikkatle kontrol edilmesi gerektiğini unutmamalıyız. Bununla birlikte, kaynaklarla çalışmak ve gerçekleri iki kez kontrol etmek eğitim veya araştırma çalışmalarında olağan bir durumdur. Ve zamanla, sohbet robotları daha iyi ve daha güvenilir hale gelecektir - bunu ChatGPT'nin GPT-2'den GPT-4'e evriminde görebiliriz.

Ölçeklenebilir gözetim

YZ sistemleri daha güçlü ve karmaşık hale geldikçe, onları insan geri bildirimi yoluyla kontrol etmek giderek zorlaşmaktadır. İnsanların karmaşık YZ davranışlarını değerlendirmesi, özellikle de YZ belirli bir alanda insanlardan daha iyi performans gösterdiğinde, yavaş veya olanaksız olabilir. YZ'nin çıktısının yanlış bir şekilde ikna edici olduğunu tespit etmek için insanların yardıma veya uzun zamana ihtiyacı vardır. Ölçeklenebilir gözetim, denetim için gereken zamanı ve çabayı azaltabilir.

Nick Bostrom'a göre, süper zekanın geliştirilmesi, moleküler nanoteknoloji veya sentetik biyoloji gibi diğer ileri teknolojilerin yarattığı varoluşsal riskleri potansiyel olarak azaltabilir. Dolayısıyla, süperzekanın yaratılmasına diğer potansiyel olarak tehlikeli teknolojilerden önce öncelik verilmesi genel varoluşsal riski azaltabilir.

Normal yapay zekayı denetlemek için süper zeka geliştirmek, arabayı atın önüne koymak gibi görünebilir, ancak süper zeka çok uzakta olmayabilir. Leopold Aschenbrenner'in "Durumsal Farkındalık" adlı kitabına göre bundan 10 yıl sonra süper zekayı görebiliriz.

Yapay zeka patlaması

Biz farkına bile varmadan, elimizde süper zeka olacaktı - insanlardan çok daha zeki, yeni, yaratıcı, karmaşık davranışlar sergileyebilen, anlamaya bile başlayamayacağımız yapay zeka sistemleri - hatta belki de milyarlarcasından oluşan küçük bir uygarlık. Güçleri de çok büyük olacaktır. Süperzekayı diğer alanlardaki araştırma ve geliştirmelere uygulayarak, patlayıcı ilerleme sadece makine öğrenimi araştırmalarının ötesine geçecektir; yakında robot bilimini çözecekler, yıllar içinde diğer bilim ve teknoloji alanlarında dramatik sıçramalar yapacaklar ve bunu endüstriyel bir patlama izleyecektir. Süper zeka muhtemelen belirleyici bir askeri avantaj sağlayacak ve anlatılmamış yıkım güçlerini ortaya çıkaracaktır. İnsanlık tarihinin en yoğun ve değişken anlarından biriyle karşı karşıya kalacağız.