16 Ocak 2025 - 15:20 - Güncelleme: 16 Ocak 2025 - 15:28
Yapay zeka: Geçmişin beş devi risklerle başa çıkma konusunda bize ne öğretebilir?Simon Rogerson/Bilgisayar Etiği Fahri Profesörü, De Montfort Üniversitesi
Yapay zekanın (AI) ilerlemesi durmaksızın devam etti. OpenAI'nin en son modeli o3'ün yakın zamanda bir kez daha rekor kırması, insanlığın geleceği kadar güvenlik hakkında da acil soruları gündeme getiriyor. Yardım için başvurabileceğimiz bir yer, geçmişten gelen büyük düşünürlerdir. Kendi dünyalarında bariz olanın ötesini keşfettiler ve makinelerin yapay zeka benzeri yeteneklere sahip olacağı bir zamanı öngörerek genellikle geleceğe baktılar. 19. yüzyıl İngiliz matematikçisi ve yazarı Ada Lovelace, bilge Charles Babbage ile "analitik motoru" üzerine yaptığı çalışmalar nedeniyle bazen ilk bilgisayar programcısı olarak tanınır. Bu, hiçbir zaman tamamlanmayan genel amaçlı bir mekanik bilgisayardı, ancak tasarımı onlarca yıl sonraki bilgisayarların tasarımını yansıtıyordu.
1842'de Babbage'a yazdığı ve önerdiği cihazın potansiyelini araştıran notları, gelecekte AI'ya benzer bir şey öngördü. "Sayı dışında başka şeyler üzerinde de etkili olabilir" dedi ve böyle bir makinenin bir gün "herhangi bir karmaşıklık veya ölçüde ayrıntılı ve bilimsel müzik parçaları bestelemek" için perdeli sesler arasındaki ilişkileri ifade edebileceğini öne sürdü. Bu, çok çeşitli ses ve müzik verilerinde örüntü tanımayı gerektirir - tam olarak bugün büyük dil modellerinin metin istemlerinden müzik üreterek yaptığı şey. Yine de Lovelace, makinenin düşünme yetenekleri konusunda şüpheciydi ve bulabileceği her şeyi ortaya çıkarmak için hala insanlara bağımlı olacağını savunuyordu. Gerçekten de, bugün yapay zeka modelleri, internetten trilyonlarca insan kelimesi üzerinde eğitilmekten matematiksel olasılıklara dayalı cümleler kurmak kadar hala gerçekten düşünmüyor. Lovelace, "analitik motorun güçleri hakkında ortaya çıkabilecek abartılı fikirlerin olasılığına karşı korunmak" için bu tür sınırlamalara işaret etti. Bununla birlikte, bu makinenin çıplak çıktısının ötesinde sahip olabileceği "yan etkileri" de vurguladı. Onun örneği, bilime yeni bir ışık tutabileceğidir, ancak daha geniş anlamı, bu tür cihazların asla hafife alınmaması gerektiğidir.
Turing testi
Lovelace'ın argümanı başka bir örtük soruyu da gündeme getirdi. Makineler yaratıcılar haline gelirse ve ne zaman olursa, duyarlılık artık bilim kurgu olmaktan çıktığında ne olur? Bu, birkaç on yıl sonra başka bir İngiliz matematikçi ve düşünür olan Alan Turing'e ilham verdi. Turing'in 1949 "taklit oyunu", daha sonra Turing testi olarak bilinen, bir bilgisayarın bir insanla karşılaştırılabilir bir şekilde düşünüp düşünemeyeceğini belirlemeye çalıştı. 2022'de OpenAI'nin ChatGPT'si tarafından geçildiği kabul edilene kadar yapay zekanın önemli bir testi olarak kaldı. Turing aslında bunun daha erken olacağını düşündü ve 1950 tarihli ünlü bir makalede yazdı:
İnanıyorum ki, yüzyılın sonunda kelimelerin kullanımı ve genel eğitimli görüş o kadar değişmiş olacak ki, makinelerin çelişmeyi beklemeden düşündüğünden söz edilebilecek.
Bu rubicon'u geçmenin ne anlama geleceği konusunda özellikle karamsar değildi ve aynı makalede bir yetişkinin zihninden ziyade bir çocuğun zihnini simüle eden bir makine yaratmaya çalışmanın lehine tartıştı. Bunun "kolayca programlanabileceğini" düşündü ve bu tür çabalardan korkacak çok az şeyimiz olduğunu ima etti. Aynı şekilde, insanların düşünen makineler tarafından boyunduruk altına alınma potansiyeline karşı da kör değildi. 1951'de halka açık bir konferansta şöyle dedi: "Bir makine düşünebiliyorsa, bizden daha zekice düşünebilir ve o zaman nerede olmalıyız?" Turing'in biyografisini yazan Christof Teuscher, onu "bilimin Orwell'i" olarak nitelendirdi. Onun görüşlerini, yapay zeka üzerine hiç düşünmemiş olmasına rağmen, Wigan İskelesi'ne Giden Yol'da (1937) makinelerin tehlikeleri hakkında daha genel olarak konuşan George Orwell'in kendisiyle karşılaştırmak ilginçtir. "Makinelere" yapılan atıfları "AI" ile değiştirmeye hazırsanız, Orwell'in günümüzün teknolojik silahlanma yarışından ne yapmış olabileceğine dair ilginç olasılıklar sunuyor:
Hassas kişinin [AI]'ya olan düşmanlığı bir anlamda gerçekçi değil, çünkü [AI]'nın kalıcı hale geldiği aşikar. Ama bir zihin tutumu olarak bunun için söylenecek çok şey var ... Sözlü olarak, hiç şüphe yok ki, [YZ]'nin insan için yaratıldığı ve insanın [YZ] için yaratılmadığı konusunda hemfikir oluruz; pratikte, [YZ]'nin gelişimini kontrol etmeye yönelik herhangi bir girişim bize bilgiye bir saldırı ve dolayısıyla bir tür küfür gibi görünüyor. Ve tüm insanlık aniden [AI]'ya karşı isyan etse ve daha basit bir yaşam tarzına kaçmaya karar verse bile, kaçış yine de son derece zor olurdu ... Dünyayı mekanize olabileceği kadar tam olarak makineleştirin ve hangi yöne dönerseniz dönün, sizi çalışma şansından - yani yaşama şansından - kesen bir [AI] olacaktır.
Norbert Wiener'in etiği
Bu bizi Amerikalı bilim adamı ve matematikçi Norbert Wiener'e getiriyor. Bilgisayar etiğinin kurucusu olarak tanınan Wiener'in ufuk açıcı çalışması, makinelerin potansiyelinden yararlanmanın "tehlikelerine karşı uyarıda bulunmayı" amaçlayan The Human Use of Human Beings'dir (1950). Wiener, makinelerin birbirleriyle konuşacağı ve geçmiş performanslarını takip ederek zaman içinde gelişeceği bir zamanı öngördü. Bunu, bir şişede bir cin (cin) bulan ve orada bırakılmasının daha iyi olduğunu bilen bir kişinin eski halk hikayesiyle karşılaştırarak şunları yazdı:
Cin gibi öğrenebilen ve öğrendiklerine dayanarak kararlar verebilen bir makine, hiçbir şekilde bizim vermemiz gereken ya da bizim için kabul edilebilir olan kararları vermek zorunda kalmayacaktır.
On yıllar sonra, İngiliz fizikçi Stephen Hawking'in de benzer endişeleri vardı. 2016'da yapay zekanın şunlar olabileceğini yazdı:
Uygarlığımızın tarihindeki en büyük olay, ama aynı zamanda son da olabilir - risklerden nasıl kaçınacağımızı öğrenmezsek. Yapay zeka, faydalarının yanı sıra, güçlü özerk silahlar veya azınlığın çoğunluğu ezmesi için yeni yollar gibi tehlikeleri de beraberinde getirecektir.
Son aylarında şunları yazdı:
Yapay zekanın insanların yerini tamamen almasından korkuyorum. İnsanlar bilgisayar virüsleri tasarlarsa, birileri de kendini geliştiren ve çoğaltan yapay zeka tasarlayacaktır. Bu, insanlardan daha iyi performans gösteren yeni bir yaşam biçimi olacak.
Geçmişin bu beş devi, bizi yapay zeka hakkında çok dikkatli düşünmeye sevk ediyor. Lovelace, yeni bir teknolojinin potansiyelini önce abartma, ancak daha sonra gerçeği küçümseyerek aşırı düzeltme yapma eğiliminden bahsetti. Wiener, test edilmemiş teknolojik potansiyelin "bencilce sömürülmesine" karşı uyarıda bulundu ve bu da bizi yıllar boyunca BT başarısızlıklarından kaynaklanan sayısız feci sonuca götürdü. Açıkçası, aynı şey şimdi çok daha güçlü bir teknolojiyle olabilir. Muhtemelen bu yazarlar son gelişmelere bakmış ve meleklerin basmaktan korktuğu yerlere koşan aptalları görmüş olacaklardır. Kaynak:13 Ocak 2025,https://theconversation.com/
FACEBOOK YORUMLAR