Steven Pinker, ChatGPT’nin gerçekten etkileyici olduğunu ve “uydurma yapmayı bıraktığında” ve hataya daha az eğilimli hale geldiğinde daha da etkileyici olacağını düşünüyor. OpenAI, çeşitli alanlarda soruları anında yanıtlayabilen (aslında çeşitli türlerde yazılar yazabilen) ChatGPT sohbet robotunu sohbete dayalı ve görünüşte otoriter bir tarzda Kasım ayında tanıttığında, gerçekten de dünyanın büyük bir kısmı yüksek öğretim, büyük bir heyecan yarattı. Büyük dil modeli (LLM) adı verilen bir yapay zeka türü kullanan ChatGPT, yanıtlarını sürekli olarak öğrenip geliştirebilir. Ama ne kadar iyi olabilir? Johnstone Ailesi Psikoloji Profesörü Pinker, diğer şeylerin yanı sıra, ödüllü çok satan kitap “The Language Instinct” gibi kitaplarda zihin, dil ve düşünce arasındaki bağlantıları araştırdı ve bunu yapıp yapmamamız gerektiği konusunda kendine ait birkaç fikri var. ChatGPT’nin yazar ve düşünür olarak insanları yerinden etme potansiyelinden endişe edin. Röportaj netlik ve uzunluk için düzenlendi.
GAZETE: ChatGPT büyük ilgi gördü ve çoğu olumsuz oldu. Ortaya çıkardığı önemli sorular sizce neler?
Pembe: Yarım trilyon kelimelik bir metinde hangi istatistiksel kalıpların gizlendiğini ve 100 milyar parametrede yakalanabileceğini hayal etmeye çalıştığımızda sezgilerimizin nasıl başarısız olduğunu kesinlikle gösteriyor. Çoğu insan gibi, bunu yapan bir sistemin, örneğin Gettysburg Adresini Donald Trump tarzında yazabileceğini tahmin edemezdim. Verilerde, biz insanların kavrayamadığı kalıplar, kalıplar, kalıplar var. ChatGPT’nin, dünyayı anlamadan – açık hedefler, açıkça temsil edilen gerçekler veya kulağa zekice gelen bir metin oluşturmak için gerekli olduğunu düşündüğümüz diğer şeyler olmadan – makul, alakalı ve iyi yapılandırılmış bir düzyazı oluşturması etkileyici.
Ve bu yeterlilik görüntüsü, onun gaflarını daha da çarpıcı hale getiriyor. ABD’nin 1973-77 yılları arasında Luci Baines Johnson da dahil olmak üzere dört kadın başkanı olması gibi kendinden emin uydurma sözler söylüyor. Ve temel sağduyu hataları yapar. 25 yıldır psikolojiye giriş dersime, en iyi yapay zekamızın hala sıradan sağduyuyu nasıl kopyalayamayacağını göstererek başladım. Bu yıl dersin o kısmının geçersiz olacağından çok korktum çünkü verdiğim örnekler GPT tarafından desteklenecekti. Ama endişelenmeme gerek yoktu. ChatGPT’ye sorduğumda, “Mabel sabah 9 ve akşam 5’te yaşıyorsa, öğlen yaşıyor muydu?” “Öğlen Mabel’in hayatta olup olmadığı belirtilmedi. 9 ve 5’te hayatta olduğu biliniyor, ancak öğlen hayatta olduğuna dair herhangi bir bilgi verilmedi. Dolayısıyla, dünyanın temel gerçeklerini kavramıyor – insanlar sürekli olarak uzun süreler yaşıyor ve bir kez öldüğünüzde ölü olarak kalıyorsunuz – çünkü bunu açıkça ortaya koyan bir metin parçasına asla rastlamadı. (Kredisine göre, Japon balıklarının külot giymediğini biliyordu.)
Şaşırtıcı yetenekler sergileyebilen, ancak insan zihninin tarzında olmayan bir uzaylı zekasıyla uğraşıyoruz. Konuşmak veya sorunları çözmek için yarım trilyon kelimelik metne (saniyede üç kelimeyle, günde sekiz saat, 15.000 yıl sürer) maruz kalmamıza gerek yok. Bununla birlikte, devasa veri kümelerindeki çok, çok, çok yüksek dereceli istatistiksel modellerden neler çıkarabileceğiniz etkileyici.
“25 yıldır psikolojiye giriş dersime, en iyi yapay zekamızın hâlâ sıradan sağduyuyu nasıl kopyalayamayacağını göstererek başladım. Bu yıl dersin o kısmının geçersiz olacağından çok korktum. … Ama endişelenmeme gerek yok.”
GAZETE: Open AI, amacının yapay genel zeka geliştirmek olduğunu söyledi. Bu tavsiye edilebilir mi, hatta mümkün mü?
Pembe: Bence tutarsız, tıpkı bir “genel makine”nin tutarsız olması gibi. Süpermen’in uçması, yenilmezliği ve X-ışını görüşü gibi her türlü süper gücü gözümüzde canlandırabiliriz ama bu onların fiziksel olarak gerçekleştirilebilecekleri anlamına gelmez. Aynı şekilde, bizi nasıl ölümsüz kılacağımızı, dünya barışını nasıl sağlayacağımızı veya evreni nasıl ele geçireceğimizi anlayan bir süper zekanın hayalini kurabiliriz. Ancak gerçek zeka, belirli türden dünyalarda belirli türden sorunları çözmek için bir dizi algoritmadan oluşur. Şu anda sahip olduğumuz ve muhtemelen her zaman sahip olacağımız şey, bazı zorluklarda insanları aşan, bazılarında ise aşan cihazlardır.
GAZETE: Sınıfınızda kullanımı konusunda endişeli misiniz?
Pembe: Web sitelerinden dönem ödevlerini indirmekten daha fazlası değil. Kolej, öğrencilere şeref taahhüdünün yazmadıkları çalışmaları göndermeyi yasakladığını hatırlatmamızı istedi. saf değilim; Bazı Bilim öğrencilerinin yalancı olabileceğini biliyorum ama çok fazla olduğunu sanmıyorum. Ayrıca, en azından şimdiye kadar, mevcut olmayan alıntıları ve referansları bir araya getirdiği için birçok ChatGPT çıktısının maskesini düşürmek kolaydır.
GAZETE: Dezenformasyon ve işlerin tehlikede olması da dahil olmak üzere ChatGPT ile ilgili olarak insanların endişe duyduğu bir dizi şey vardır. Seni endişelendiren özel bir şey var mı?
Pembe: Yeni teknoloji korkusu, gerçek dünyada ortaya çıkacak karşı önlemleri tahmin etmeden, her zaman olabilecek en kötü senaryolarla yönlendirilir. Büyük dil modelleri için, bu, insanların otomatik olarak oluşturulan içerik için geliştirecekleri şüpheciliği içerecektir (gazeteciler, GPT hakkındaki köşelerini GPT’ye yazdırdığı hilesini kullanmayı çoktan bıraktı çünkü okuyucular buna bayılıyor), profesyonel ve ahlaki korkulukların geliştirilmesi (örneğin Bilim onur taahhüdü) ve muhtemelen LLM çıktısını filigranlayan veya tespit eden teknolojiler.
Steven Pinker. Rebecca Goldstein’ın fotoğrafı
Geri itmenin başka kaynakları da var. Birincisi, hepimizin insanlarla nedensel bağlantılar hakkında derin sezgilere sahip olmamızdır. Bir koleksiyoncu, John F. Kennedy’nin golf sopaları için, o dönemdeki diğer golf sopalarından ayırt edilemez olsalar bile, 100.000 dolar ödeyebilir. Özgünlük talebi, öyküler ve başyazılar gibi entelektüel ürünler için daha da güçlüdür: Onu bağlayabileceğiniz gerçek bir insan olduğunun farkındalığı, statüsünü ve kabul edilebilirliğini değiştirir.
Bir başka tepki de, ezilmiş camın bir besin takviyesi olarak popülerlik kazanması veya dokuz kadının bir ayda bebek yapabilmesi gibi, alnını tokatlayan gaflardan gelecek. Sistemler (genellikle fakir ülkelerdeki tıklama çiftliklerinden gelen) insan geri bildirimleriyle iyileştirildikçe, bu gürültücülerden daha az olacak, ancak sonsuz olasılık göz önüne alındığında, hala orada olacaklar. Ve en önemlisi, bir iddianın gerçekliğini kontrol etmemize izin veren bir kağıt izi olmayacak. Sıradan bir yazarla, kişiye sorabilir ve referansların izini sürebilirsiniz, ancak bir LLM’de, nicel değişkenlerdeki milyarlarca küçük ayarlamaya bir “gerçek” bulaşır ve bir kaynağın izini sürmek ve doğrulamak imkansızdır.
Bununla birlikte, bir LLM tarafından bir insan kadar kolay üretilebilecek pek çok standart şablon türü vardır ve bu iyi bir şey olabilir. Belki de otomatik olarak oluşturulabilecek bir vasiyetname veya boşanma sözleşmesi hazırlamak için pahalı bir avukatın faturalandırılabilir saatlerini ödememeliyiz.
GAZETE: Potansiyel olumsuzluklar hakkında çok şey duyuyoruz. Potansiyel bir artı var mı?
Pembe: Bir örnek, karakter dizileriyle beslenen mevcut arama motorlarımızın aksine, anlamsal bir arama motoru olarak kullanılması olabilir. Şu anda, bir dizi metin yerine bir fikriniz varsa, onu aramanın iyi bir yolu yoktur. Şimdi, gerçek bir semantik arama motoru, LLM’den farklı olarak, dünyanın kavramsal bir modeline sahip olacaktır. İnsanlar, yerler, nesneler ve olaylar için semboller ve hedeflerin ve nedensel ilişkilerin temsilleri olurdu, insan zihninin çalışma biçimine daha yakın bir şey. Ancak, arama motoru gibi yalnızca yararlı bilgi almak istediğiniz bir araç için, bir LLM’nin son derece yararlı olabileceğini görebiliyorum – bir şeyler uydurmayı bıraktığı sürece.
GAZETE: Yolun aşağısına bakarsak ve bu şeyler daha iyi hale gelirse – potansiyel olarak katlanarak daha iyi olur – insanlar için öğrenilmenin, bilgili olmanın, hatta uzman olmanın ne anlama geldiği üzerinde etkileri var mı?
Pembe: Katlanarak gelişeceğinden şüpheliyim ama gelişecek. Ve geçmişte insan zekasını desteklemek için bilgisayarların kullanılmasında olduğu gibi – 60’lardaki hesaplama ve kayıt tutmaya, 90’lardaki aramaya ve diğer her adıma kadar – kendi sınırlarımızı artırıyor olacağız. . Tıpkı kendi sınırlı hafızamızı ve hesaplama yeteneklerimizi kabul etmemiz gerektiği gibi, büyük miktarda bilgiyi almanın ve sindirmenin bizim iyi yapabileceğimiz bir şey olduğunu ancak yapay zihinlerin daha iyi yapabileceğini kabul edeceğiz.
LLM’ler bizden çok farklı çalıştıkları için insan zekasının doğasını anlamamıza yardımcı olabilirler. Yüzeysel olarak onu kopyalıyormuş gibi görünen, bazı yönlerden onu aşan ve diğer yönlerden yetersiz kalan sistemlerle karşılaştırdığımızda, insan anlayışının nelerden oluştuğuna dair takdirimizi derinleştirebilirler.
GAZETE: Yani insanların yerini yapay genel zeka almayacak mı? Esasen hala zirvede olacak mıyız? Yoksa bu yanlış bir çerçeve mi?
Pembe: Yanlış kadraj. Akla gelebilecek tüm zihinleri kapsayan tek boyutlu bir zeka ölçeği yoktur. Elbette, IQ’yu insanlar arasındaki farklılıkları ölçmek için kullanıyoruz, ancak ampirik gerçeklik hakkındaki bilgisi gözlemleyebilecekleriyle sınırlı olduğu için, bu her şeyi çıkarsayan bir tahmin ediciye doğru tahmin edilemez. Her şeyi bilen ve her şeye gücü yeten bir merak algoritması yoktur: Ne kadar çok amaç ve dünya varsa o kadar zeka vardır.
Günlük Gazete
En son Bilim haberlerini almak için günlük e-postalara kaydolun.
GAZETE: ChatGPT büyük ilgi gördü ve çoğu olumsuz oldu. Ortaya çıkardığı önemli sorular sizce neler?
Pembe: Yarım trilyon kelimelik bir metinde hangi istatistiksel kalıpların gizlendiğini ve 100 milyar parametrede yakalanabileceğini hayal etmeye çalıştığımızda sezgilerimizin nasıl başarısız olduğunu kesinlikle gösteriyor. Çoğu insan gibi, bunu yapan bir sistemin, örneğin Gettysburg Adresini Donald Trump tarzında yazabileceğini tahmin edemezdim. Verilerde, biz insanların kavrayamadığı kalıplar, kalıplar, kalıplar var. ChatGPT’nin, dünyayı anlamadan – açık hedefler, açıkça temsil edilen gerçekler veya kulağa zekice gelen bir metin oluşturmak için gerekli olduğunu düşündüğümüz diğer şeyler olmadan – makul, alakalı ve iyi yapılandırılmış bir düzyazı oluşturması etkileyici.
Ve bu yeterlilik görüntüsü, onun gaflarını daha da çarpıcı hale getiriyor. ABD’nin 1973-77 yılları arasında Luci Baines Johnson da dahil olmak üzere dört kadın başkanı olması gibi kendinden emin uydurma sözler söylüyor. Ve temel sağduyu hataları yapar. 25 yıldır psikolojiye giriş dersime, en iyi yapay zekamızın hala sıradan sağduyuyu nasıl kopyalayamayacağını göstererek başladım. Bu yıl dersin o kısmının geçersiz olacağından çok korktum çünkü verdiğim örnekler GPT tarafından desteklenecekti. Ama endişelenmeme gerek yoktu. ChatGPT’ye sorduğumda, “Mabel sabah 9 ve akşam 5’te yaşıyorsa, öğlen yaşıyor muydu?” “Öğlen Mabel’in hayatta olup olmadığı belirtilmedi. 9 ve 5’te hayatta olduğu biliniyor, ancak öğlen hayatta olduğuna dair herhangi bir bilgi verilmedi. Dolayısıyla, dünyanın temel gerçeklerini kavramıyor – insanlar sürekli olarak uzun süreler yaşıyor ve bir kez öldüğünüzde ölü olarak kalıyorsunuz – çünkü bunu açıkça ortaya koyan bir metin parçasına asla rastlamadı. (Kredisine göre, Japon balıklarının külot giymediğini biliyordu.)
Şaşırtıcı yetenekler sergileyebilen, ancak insan zihninin tarzında olmayan bir uzaylı zekasıyla uğraşıyoruz. Konuşmak veya sorunları çözmek için yarım trilyon kelimelik metne (saniyede üç kelimeyle, günde sekiz saat, 15.000 yıl sürer) maruz kalmamıza gerek yok. Bununla birlikte, devasa veri kümelerindeki çok, çok, çok yüksek dereceli istatistiksel modellerden neler çıkarabileceğiniz etkileyici.
“25 yıldır psikolojiye giriş dersime, en iyi yapay zekamızın hâlâ sıradan sağduyuyu nasıl kopyalayamayacağını göstererek başladım. Bu yıl dersin o kısmının geçersiz olacağından çok korktum. … Ama endişelenmeme gerek yok.”
GAZETE: Open AI, amacının yapay genel zeka geliştirmek olduğunu söyledi. Bu tavsiye edilebilir mi, hatta mümkün mü?
Pembe: Bence tutarsız, tıpkı bir “genel makine”nin tutarsız olması gibi. Süpermen’in uçması, yenilmezliği ve X-ışını görüşü gibi her türlü süper gücü gözümüzde canlandırabiliriz ama bu onların fiziksel olarak gerçekleştirilebilecekleri anlamına gelmez. Aynı şekilde, bizi nasıl ölümsüz kılacağımızı, dünya barışını nasıl sağlayacağımızı veya evreni nasıl ele geçireceğimizi anlayan bir süper zekanın hayalini kurabiliriz. Ancak gerçek zeka, belirli türden dünyalarda belirli türden sorunları çözmek için bir dizi algoritmadan oluşur. Şu anda sahip olduğumuz ve muhtemelen her zaman sahip olacağımız şey, bazı zorluklarda insanları aşan, bazılarında ise aşan cihazlardır.
GAZETE: Sınıfınızda kullanımı konusunda endişeli misiniz?
Pembe: Web sitelerinden dönem ödevlerini indirmekten daha fazlası değil. Kolej, öğrencilere şeref taahhüdünün yazmadıkları çalışmaları göndermeyi yasakladığını hatırlatmamızı istedi. saf değilim; Bazı Bilim öğrencilerinin yalancı olabileceğini biliyorum ama çok fazla olduğunu sanmıyorum. Ayrıca, en azından şimdiye kadar, mevcut olmayan alıntıları ve referansları bir araya getirdiği için birçok ChatGPT çıktısının maskesini düşürmek kolaydır.
GAZETE: Dezenformasyon ve işlerin tehlikede olması da dahil olmak üzere ChatGPT ile ilgili olarak insanların endişe duyduğu bir dizi şey vardır. Seni endişelendiren özel bir şey var mı?
Pembe: Yeni teknoloji korkusu, gerçek dünyada ortaya çıkacak karşı önlemleri tahmin etmeden, her zaman olabilecek en kötü senaryolarla yönlendirilir. Büyük dil modelleri için, bu, insanların otomatik olarak oluşturulan içerik için geliştirecekleri şüpheciliği içerecektir (gazeteciler, GPT hakkındaki köşelerini GPT’ye yazdırdığı hilesini kullanmayı çoktan bıraktı çünkü okuyucular buna bayılıyor), profesyonel ve ahlaki korkulukların geliştirilmesi (örneğin Bilim onur taahhüdü) ve muhtemelen LLM çıktısını filigranlayan veya tespit eden teknolojiler.
Steven Pinker. Rebecca Goldstein’ın fotoğrafı
Geri itmenin başka kaynakları da var. Birincisi, hepimizin insanlarla nedensel bağlantılar hakkında derin sezgilere sahip olmamızdır. Bir koleksiyoncu, John F. Kennedy’nin golf sopaları için, o dönemdeki diğer golf sopalarından ayırt edilemez olsalar bile, 100.000 dolar ödeyebilir. Özgünlük talebi, öyküler ve başyazılar gibi entelektüel ürünler için daha da güçlüdür: Onu bağlayabileceğiniz gerçek bir insan olduğunun farkındalığı, statüsünü ve kabul edilebilirliğini değiştirir.
Bir başka tepki de, ezilmiş camın bir besin takviyesi olarak popülerlik kazanması veya dokuz kadının bir ayda bebek yapabilmesi gibi, alnını tokatlayan gaflardan gelecek. Sistemler (genellikle fakir ülkelerdeki tıklama çiftliklerinden gelen) insan geri bildirimleriyle iyileştirildikçe, bu gürültücülerden daha az olacak, ancak sonsuz olasılık göz önüne alındığında, hala orada olacaklar. Ve en önemlisi, bir iddianın gerçekliğini kontrol etmemize izin veren bir kağıt izi olmayacak. Sıradan bir yazarla, kişiye sorabilir ve referansların izini sürebilirsiniz, ancak bir LLM’de, nicel değişkenlerdeki milyarlarca küçük ayarlamaya bir “gerçek” bulaşır ve bir kaynağın izini sürmek ve doğrulamak imkansızdır.
Bununla birlikte, bir LLM tarafından bir insan kadar kolay üretilebilecek pek çok standart şablon türü vardır ve bu iyi bir şey olabilir. Belki de otomatik olarak oluşturulabilecek bir vasiyetname veya boşanma sözleşmesi hazırlamak için pahalı bir avukatın faturalandırılabilir saatlerini ödememeliyiz.
GAZETE: Potansiyel olumsuzluklar hakkında çok şey duyuyoruz. Potansiyel bir artı var mı?
Pembe: Bir örnek, karakter dizileriyle beslenen mevcut arama motorlarımızın aksine, anlamsal bir arama motoru olarak kullanılması olabilir. Şu anda, bir dizi metin yerine bir fikriniz varsa, onu aramanın iyi bir yolu yoktur. Şimdi, gerçek bir semantik arama motoru, LLM’den farklı olarak, dünyanın kavramsal bir modeline sahip olacaktır. İnsanlar, yerler, nesneler ve olaylar için semboller ve hedeflerin ve nedensel ilişkilerin temsilleri olurdu, insan zihninin çalışma biçimine daha yakın bir şey. Ancak, arama motoru gibi yalnızca yararlı bilgi almak istediğiniz bir araç için, bir LLM’nin son derece yararlı olabileceğini görebiliyorum – bir şeyler uydurmayı bıraktığı sürece.
GAZETE: Yolun aşağısına bakarsak ve bu şeyler daha iyi hale gelirse – potansiyel olarak katlanarak daha iyi olur – insanlar için öğrenilmenin, bilgili olmanın, hatta uzman olmanın ne anlama geldiği üzerinde etkileri var mı?
Pembe: Katlanarak gelişeceğinden şüpheliyim ama gelişecek. Ve geçmişte insan zekasını desteklemek için bilgisayarların kullanılmasında olduğu gibi – 60’lardaki hesaplama ve kayıt tutmaya, 90’lardaki aramaya ve diğer her adıma kadar – kendi sınırlarımızı artırıyor olacağız. . Tıpkı kendi sınırlı hafızamızı ve hesaplama yeteneklerimizi kabul etmemiz gerektiği gibi, büyük miktarda bilgiyi almanın ve sindirmenin bizim iyi yapabileceğimiz bir şey olduğunu ancak yapay zihinlerin daha iyi yapabileceğini kabul edeceğiz.
LLM’ler bizden çok farklı çalıştıkları için insan zekasının doğasını anlamamıza yardımcı olabilirler. Yüzeysel olarak onu kopyalıyormuş gibi görünen, bazı yönlerden onu aşan ve diğer yönlerden yetersiz kalan sistemlerle karşılaştırdığımızda, insan anlayışının nelerden oluştuğuna dair takdirimizi derinleştirebilirler.
GAZETE: Yani insanların yerini yapay genel zeka almayacak mı? Esasen hala zirvede olacak mıyız? Yoksa bu yanlış bir çerçeve mi?
Pembe: Yanlış kadraj. Akla gelebilecek tüm zihinleri kapsayan tek boyutlu bir zeka ölçeği yoktur. Elbette, IQ’yu insanlar arasındaki farklılıkları ölçmek için kullanıyoruz, ancak ampirik gerçeklik hakkındaki bilgisi gözlemleyebilecekleriyle sınırlı olduğu için, bu her şeyi çıkarsayan bir tahmin ediciye doğru tahmin edilemez. Her şeyi bilen ve her şeye gücü yeten bir merak algoritması yoktur: Ne kadar çok amaç ve dünya varsa o kadar zeka vardır.
Günlük Gazete
En son Bilim haberlerini almak için günlük e-postalara kaydolun.