Yapay zekanın “Godfather”ı Geoffrey Hinton, bu teknolojinin dünyaya ciddi zararlar verebileceği konusundaki endişelerini özgürce paylaşabilmek için Google’dan ayrılıyor.
Bilgi notu:
Neural network (yapay sinir ağları) : İnsan beyninin bilgi işleme tekniğinden esinlenerek geliştirilmiş bir bilgi işlem teknolojisidir. Basit biyolojik sinir sisteminin çalışma şekli taklit edilir. Yani biyolojik nöron hücrelerinin ve bu hücrelerin birbirleri ile arasında kurduğu sinaptik bağın dijital olarak modellenmesidir.
Geoffrey Hinton’u bir yapay zeka öncüsü olarak tanımlayabiliriz. 2012 yılında, Dr. Hinton ve Toronto Üniversitesi’ndeki iki yüksek lisans öğrencisi, yapay zekanın entelektüel temeli haline gelen teknolojiyi yaratmışlardır.
Geçtiğimiz Pazartesi günü Geoffrey Hinton, ChatGPT gibi popüler sohbet botlarına güç veren teknoloji olan üretken yapay zekaya dayalı ürünlere yönelik agresif kampanyalar yürüten şirketlerin, işi tehlikeli bir noktaya taşıdığı söyleminde bulunarak, her geçen gün artan eleştirenler safında yerini aldı.
Dr.Hinton yaptığı açıklamada, on yıldan fazla bir süredir çalıştığı ve bu alandaki en saygın seslerden biri haline geldiği Google’daki işinden ayrıldığını, böylece yapay zekanın riskleri hakkında özgürce konuşabileceğini belirtti.
Dr. Hinton’un yapay zeka yolculuğunda; çığır açıcıdan felaket tellallığına geçişi, teknoloji endüstrisi için belki de on yıllardır en önemli dönüm noktasında dikkate değer bir anı işaret ediyor. Yeni yapay zeka sistemler ve oluşan endüstri, belki de 1990'ların başında web tarayıcısının piyasaya sürülmesi kadar önemli ve ilaç araştırmasından eğitime kadar uzanan alanlarda atılımlara yol açma potansiteline sahip.
Ancak sektördeki birçok kişiyi düşündüren, tehlikeli bir şeyi vahşi doğaya saldıklarına dair hissettikleri bu korku. Üretken yapay zeka, yanlış bilgi için bir araç olabilir. Yakında, çalışma hayatı için bir risk olabilir. Teknolojinin büyük ismleri, ileride bir yerlerde bunun insanlık için bir risk olabileceğini öngörüyor ve bu öngörü büyük bir endişe yaratıyor.
Dr.Hinton, yaptığı bir açıklamada “Kötü aktörlerin, yapay zekayı kötü şeyler için kullanmasını nasıl engelleyebileceğinizi görmek zor” ifadelerini kullandı.
San Francisco merkezli OpenAI, Mart ayında ChatGPT’nin yeni bir sürümünü yayınladıktan sonra, 1.000'den fazla teknoloji lideri ve araştırmacı, yapay zeka teknolojiler hakkında “toplum ve insanlık için derin riskler” oluşturduğu iddiasında bulundu.
Birkaç gün sonra, 40 yıllık bir akademik topluluk olan Yapay Zekayı Geliştirme Derneği’nin 19 mevcut ve eski lideri, yapay zekanın riskleri konusunda kendi uyarı mektuplarını yayınladı. Bu grup, OpenAI teknolojisini Bing arama motoru da dahil olmak üzere geniş bir ürün yelpazesinde kullanan Microsoft’un baş bilim sorumlusu Eric Horvitz’i de içeriyordu.
Genellikle “Yapay Zekanın Godfather”ı olarak anılan Dr. Hinton, bu mektupların hiçbirini imzalamadı ve işini bırakana kadar Google’ı veya diğer şirketleri alenen eleştirmek istemediğini söyledi. Ancak, geçen ay şirkete istifa ettiğini bildirdi ve Perşembe günü Google’ın ana şirketi Alphabet’in CEO’su Sundar Pichai ile telefonda görüştü.
Google’ın baş bilim adamı Jeff Dean ise yaptığı açıklamada şunları söyledi: “Yapay zekaya karşı sorumlu bir yaklaşıma bağlı kalmaya devam ediyoruz. Cesurca yenilik yaparken sürekli olarak yeni ortaya çıkan riskleri anlamayı öğreniyoruz.”
Geoffrey Hinton kimdir ?
75 yaşındaki Britanyalı Dr. Hinton, kariyerine 1972'de Edinburgh Üniversitesi’nde yüksek lisans öğrencisi olduğu dönemde yapay sinir ağları (neural network) kullanımı ve geliştirilmesi yönündeki fikir ve çalışmalarıyla başlamıştır.
Neural Network, verileri analiz ederek becerileri öğrenen matematiksel bir sistemdir. O zamanlar çok az araştırmacı bu fikre inanıyordu. Bu fikir, ilerleyen dönemlerde onun hayatının işi haline geldi.
1980'lerde Dr. Hinton, Carnegie Mellon Üniversitesi’nde bilgisayar bilimi profesörüydü, ancak Pentagon’dan fon alma konusunda isteksiz olduğunu söylediği için Kanada’ya gitmek üzere üniversiteden ayrıldı. Bahsi geçen dönemde Amerika Birleşik Devletleri’nde yapay zekaya ilişkin çalışmalar, Savunma Bakanlığı tarafından finanse ediliyordu. Dr. Hinton, yapay zekanın — “robot askerler” olarak tanımlanıyordu- savaş alanında kullanılmasına şiddetle karşı çıkmaktaydı.
2012'de Dr. Hinton ve Toronto’daki iki öğrencisi Ilya Sutskever ve Alex Krishevsky, binlerce fotoğrafı analiz edebilen ve kendi kendine çiçekler, köpekler ve arabalar gibi yaygın nesneleri tanımlamayı öğretebilen bir “neural network” kurdu.
Google, Dr. Hinton ve iki öğrencisi tarafından kurulan bir şirketi satın almak için 44 milyon dolar ödedi. Sistemleri, ChatGPT ve Google Bard gibi yeni sohbet robotları da dahil olmak üzere, giderek daha güçlü teknolojilerin yaratılmasına yol açtı. Hinton’un öğrencilerinden Sutskever, OpenAI’de baş bilim insanı olarak çalışmalarına devam etti. 2018'de ise Dr.Hinton ve uzun süredir birlikte çalıştığı diğer iki bilim insanı, “neural network” üzerindeki çalışmalarından dolayı “bilgisayarın Nobel Ödülü” olarak anılan Turing Ödülü’nü aldı.
Aynı sıralarda Google, OpenAI ve diğer şirketler, büyük miktarda dijital metinden öğrenilen neural network’ler oluşturmaya başladı. Dr. Hinton, bu networklerin makinelerin dili anlaması ve üretmesi için güçlü bir yol olduğunu düşündü. Ancak bu, insanların dili işleme biçiminden çok daha düşüktü.
Ardından, Google ve OpenAI çok daha büyük miktarda veri kullanarak sistemler geliştirdikçe, Hinton’un da görüşü değişmeye başladı. Hâlâ bu sistemlerin bazı açılardan insan beyninden daha aşağı olduğuna inanıyordu, ancak diğer yönlerden ise insan zekasını gölgede bıraktıklarını düşünüyordu. “Belki de bu sistemlerde olup bitenler,” dedi “aslında beyinde olup bitenlerden çok daha iyidir.”
Şirketler yapay zekalarını geliştirirken; Dr.Hinton, bu sistemlerin giderek daha tehlikeli hale geldiğine inanıyor. Hinton, yapay zekanın geldiği noktaya dikkat çekerek “Beş yıl önce nasıl olduğuna ve şimdi nasıl olduğuna bakın” “Farkı alın ve ileriye doğru yayın. Bu korkutucu.” dedi.
Geçen yıla kadar, Google’ın zarar verebilecek bir şey yayınlamamaya özen göstererek teknolojinin “uygun bir temsilcisi” gibi davrandığını söyledi. Ancak şimdi Microsoft, Bing arama motorunu bir chatbot ile genişleterek — Google’ın ana faaliyet alanına meydan okuyor — ve bir diğer yandan Google da, aynı tür teknolojiyi yaymak için adeta yarışıyor. Bu nedenle Dr.Hinton, teknoloji devlerinin durdurulması imkansız olabilecek bir rekabete odaklandığını söyledi.
Dr. Hinton’un bu telaşlı endişesi, internetin sahte fotoğraflar, videolar ve metinlerle dolup taşacağı ve ortalama bir insanın “artık neyin doğru olduğunu bilemeyeceği” nedenine dayanıyor.
Ayrıca yapay zeka teknolojilerinin zamanla iş piyasasını da alt üst edeceği düşünülüyor. Bugün, ChatGPT gibi sohbet robotları, insan işçileri tamamlama eğiliminde; ancak avukat yardımcılarının, kişisel asistanların, çevirmenlerin ve ezbere dayalı görevleri yerine getiren diğer kişilerin yerini alma ihtimali uzak değil. “Zor işi ortadan kaldırıyor,” ise “Bundan daha fazlasını götürebilir.”
Dr. Hinton; yakında, teknolojinin yeni nesil versiyonlarının insanlık için bir tehdit oluşturmasından endişe ediyor, zira analiz ettikleri çok büyük miktardaki verilerden genellikle beklenmedik davranışlar öğreniyorlar. Dr.Hinton’a göre, bireyler ve şirketler yapay zeka sistemlerinin yalnızca kendi bilgisayar kodlarını oluşturmasına izin vermiyor, aynı zamanda bu kodu kendi başlarına çalıştırabiliyor ve bu durum, bir sorun oluşturuyor. Dr. Hinton, gerçekten otonom silahların — o katil robotların — gerçeğe dönüşeceği bir günden korkuyor.
Dr. Hinton, “Bu şeylerin aslında insanlardan daha akıllı olabileceği fikri — birkaç kişi buna inandı” dedi. “Ama çoğu insan bu ihtimalin çok uzak olduğunu düşündü. Ben de bunun çok uzak olduğunu düşündüm. 30 ila 50 yıl ya da daha uzun olduğunu sanıyordum. Açıkçası, artık bunu düşünmüyorum.”
Öğrencilerinin ve meslektaşlarının çoğu da dahil olmak üzere diğer birçok uzman, bu tehdidin varsayımsal olduğunu söylüyor. Ancak Dr. Hinton, Google — Microsoft ve diğerleri arasındaki yarışın, bir düzenleme olmadan durmayacak küresel bir yarışa dönüşeceğine inanıyor.
Dr. Hinton, bu ilerlemeyi — yarışı durdurmanın imkansız olabileceğini de düşünüyor. Çünkü nükleer silahlardan farklı olarak, şirketlerin veya ülkelerin teknoloji üzerinde gizlice çalışıp çalışmadığını bilmenin hiçbir yolu yok. Dr. Hinton’a göre en iyimser yaklaşım, dünyanın önde gelen bilim adamlarının teknolojiyi kontrol etmenin yolları üzerinde işbirliği yapmaları olduğunu belirtiyor ve ekliyor: “Kontrol edip edemeyeceklerini anlayana kadar bunu daha fazla büyütmeleri gerektiğini düşünmüyorum”.
Dr.Hinton, insanlar kendisine potansiyel olarak tehlikeli bir teknoloji üzerinde nasıl çalışabileceğini sorduğunda, ABD’nin atom bombasını yapma çabalarına öncülük eden Robert Oppenheimer’ı şöyle açıkladığını söylüyordu: “Teknik olarak tatlı bir şey gördüğünüzde, devam et ve yap”.
Ancak, artık bunu söylemiyor.
Kaynak: NY Times
