Görünmeyen engellerle ilgili dört bölümlük serinin üçüncüsü.
Yapay zeka araştırmacısı Naomi Saphra, 2015 yılında “bir programcının en kötü kabusuyla” karşılaştı. On yıl süren kodlamanın ardından tam doktora programına başlamak üzereydi. İskoçya'daki programda ellerindeki nöropati yazmayı çok acı verici hale getiriyordu.
Çözüm arayan Saphra, üzerinde çalıştığı teknolojiye yöneldi. Sesten metne dikte teknolojilerini kullanarak kodlamayı kendi kendine öğretme uzun sürecine başladı. Bugün, Saphra'nın belirli görevleri tamamlamak için büyük ölçüde özelleştirdiği Talon adlı bir sistem, ona dil modelleri üzerine yaptığı araştırmalar için kodlama yapmasına ve makaleler yazmasına olanak tanıyor.
Kempner Doğal ve Yapay Zeka Çalışmaları Enstitüsü'ndeki araştırma görevlisi, “Buna tamamen güveniyorum” dedi. “Konuşmayı metne dönüştüren yapay zekaya sahip olmasaydık kesinlikle bir kariyerim olmazdı. Bilgisayarı fazla kullanamıyorsanız, bu günlerde dünyada var olmanız oldukça zor. İşler ilerledikçe kelime hata oranının yıllar geçtikçe azalması çok önemli oldu.”
Yapay zeka teknolojisi, Saphra gibi görünürde olmayan engelleri (diğerleri tarafından hemen anlaşılamayan fiziksel veya zihinsel rahatsızlıkları) olan kişiler için güçlü bir yardımcı araç olabilir. Ancak engellilik savunucuları, bu araçların gerçekten erişilebilir hale gelmesi için daha kat etmesi gereken uzun bir yol olduğunu söylüyor. Uzmanlar, yapay zeka adaleti ve geliştirme süreciyle ilgili tartışmalara engelli kişileri de dahil etmenin çok önemli olduğunu söylüyor.
“Belirli gruplara karşı önyargı oluşturabilecek bilgilerle beslendiğini bildiğimiz araçlar yaratıyorsak ve bunları hayatımızın çok önemli yönlerine entegre edersek, bunun etkisi ne olacak?” Bilim Tıp Fakültesi biyomedikal bilişim alanında çalışan Lawrence Weru bu soruyu soruyor.
Kris Snibbe/Bilim Personel Fotoğrafçısı
Bilim Tıp Fakültesi'nde biyomedikal bilişim alanında çalışan Lawrence Weru, Siri ve Alexa gibi sesle etkinleştirilen yapay zeka araçlarının 2010'ların başında piyasaya sürülmesiyle ilk başta heyecanlandı. Kişisel bilgisayarlar yaygınlaşmadan önce, küçük yaştan itibaren halk kütüphanesi bilgisayarlarında kodlamayı öğrenen biri olarak, uzun süredir dijital teknolojideki gelişmelere hayran kalmıştır. Ancak kekemeliği olan Weru, sesle etkinleşen teknolojinin yararlı olmaktan çok sinir bozucu olduğunu hemen fark etti. Dijital asistan, Siri'ye yön sorarken kekelemesi halinde soruyu anlayamıyordu.
Bu pek de yeni bir deneyim olmasa da (Yapay Zeka'dan önce Weru, bankasıyla iletişime geçmenin ve otomatik telefon sistemini geçememenin yarattığı hayal kırıklığını hatırlıyor) yapay zekanın muhtemelen insanlardan gelen verilerle eğitilmediğini fark etmek hayal kırıklığı yarattı. onun gibi engelli.
Weru, “İnsanlar bir şeyler yaratıyor ve insanların akıllarında her zaman eşyalarını kimin kullanacağına dair bir vizyon var” dedi. “Bazen herkes bu kişilere dahil değildir.”
Siri ile olan deneyimi Weru'yu sesle etkinleşen yapay zeka teknolojisinin geleceği konusunda endişelendiriyor; doktor randevuları alma, iş başvuruları yapma, eğitime erişim gibi kritik görevlerin insanlar tarafından değil, gerçekleştirilemeyecek teknolojiler tarafından desteklendiği bir dünya tasavvur ediyor. herkes tarafından kullanılır.
“Belirli gruplara karşı önyargı oluşturabilecek bilgilerle beslendiğini bildiğimiz araçlar yaratıyorsak ve bunları hayatımızın çok önemli yönlerine entegre edersek, bunun etkisi ne olacak?” dedi Weru. “Bu, insanların önceden ele almaya çalışacak yeterli öngörüye sahip olmasını umduğum bir endişe, ancak tarihsel olarak erişilebilirlik genellikle sonradan akla gelen bir şeydir.”
Kempner Enstitüsü'nden araştırma görevlisi Naomi Saphra, “Konuşmayı metne dönüştüren yapay zekaya sahip olmasaydık kesinlikle bir kariyerim olmazdı” dedi.
Jon Chase/Bilim Personel Fotoğrafçısı
Berkman Klein İnternet ve Toplum Merkezi'nden Maitreya Shah, yakın zamanda “Yapay Zeka adaleti” üzerine farklı düşünce okullarını veya dışlanmış gruplardaki insanlara karşı Yapay Zeka önyargısını hafifletmeyi amaçlayan hareketleri analiz eden bir araştırma projesi başlattı. Kör bir avukat ve araştırmacı olan Shah, erişilebilirlik hakkındaki konuşmaların ötesine geçmek ve sorunun kökü olduğuna inandığı şeyi incelemek istiyor: Engelli insanlar, yapay zeka hakkındaki konuşmalara, hatta yapay zeka adaleti hakkındaki konuşmalara bile dahil edilmiyor.
Shah, “Şimdiye kadar pek çok araştırma yapay zeka teknolojilerinin engelli insanlara karşı nasıl ayrımcılık yaptığına, algoritmaların engelli insanlara nasıl zarar verdiğine odaklandı” dedi. “Bu projedeki amacım, yapay zeka sistemlerini düzeltmek ve zararları azaltmak için başlatıldığı iddia edilen yapay zeka adaleti konusundaki tartışmanın bile engelli insanların haklarını, zorluklarını ve yaşanmış deneyimlerini yeterince hesaba katmadığını anlatmak. ”
Araştırması için konuyu inceleyen akademisyenlerle röportaj yapıyor ve hükümetler ile yapay zeka endüstrisi tarafından önerilen yapay zeka adaletini korumak için tasarlanan çerçeveleri değerlendiriyor.
Shah, geliştiricilerin genellikle engellilik verilerini “aykırı veriler” veya genel modelden büyük ölçüde farklı olan ve bazen hariç tutulan veriler olarak değerlendirdiğini söyledi. Ancak dahil edilse bile, diğerlerine göre daha fazla göz ardı edilen bazı engeller (görünmeyen engeller gibi) vardır. Bir yapay zeka, engelliliğin dar bir “tanımı” üzerine eğitilmişse (örneğin, kekeleyen kişilerden alınan verilerin sesle etkinleştirilen bir yapay zeka aracını eğitmek için kullanılmaması gibi), sonuç, araca erişilememesi olacaktır.
Shah, “Bir paradoks var” dedi. “Eğer engellilik verilerini dahil etmezseniz, algoritmalarınız, algoritmalarınızın normatif fikirlerine uymadıkları için engelli kişilere karşı ayrımcılığa açık olacaktır. Verileri dahil ederseniz, pek çok engelli insan yine de gözden kaçırılmış olacaktır, çünkü doğası gereği veri kümelerini birleştirme şekliniz, verileri kimlik eksenlerine göre bölersiniz.”
Ancak Shah, yapay zekaya yönelik üst düzey karar alma ve geliştirme süreçlerine sıklıkla engelli kişilerin dahil edilmediğini söyledi. onlara fayda sağlayın. Örnek olarak otizmi teşhis etmek veya öğrenme güçlüklerini gidermek için tasarlanmış teknolojiyi gösterdi.
“Soru şu: Otizmli veya başka engeli olan insanlar bu teknolojileri istiyor mu? Kimse onlara sormuyor” dedi Shah.
Shah, araştırmasında katılım gibi engelli adaleti ilkelerinden perspektiflerin benimsenmesini önermektedir.
“Engelli insanların teknolojilerin geliştirilmesine ve yaygınlaştırılmasına katılmasına izin verin. Bırakın onlar kendileri için neyin iyi olduğuna karar versinler, bırakın kendi kimliklerini nasıl tanımlamak veya şekillendirmek istediklerine karar versinler.”
Saphra da aynı fikirde; bu nedenle yardımcı yapay zeka oluşturan herhangi bir geliştiricinin, bunu yalnızca yapay zeka uzmanları veya kodlayıcılar tarafından değil, teknoloji uzmanı olmayan kişiler tarafından da kolayca özelleştirilebilir hale getirmesi gerektiğine inanıyor. Bu şekilde kullanıcılar, sistemi Saphra'nın kod yazarken yaptığı gibi belirli, temel görevleri gerçekleştirecek şekilde ayarlayabilir.
Saphra, “Yayınladığınız her şeyin hacklenebilir olduğundan, her şeyin açık kaynak olduğundan ve başlangıçta her şeyin erişilebilir bir arayüze sahip olduğundan emin olmak çok önemli” dedi. “Bunlar, onu çok sayıda engelli insan için daha kullanışlı hale getirecek.”
Ayrıca bu seride
Yapay zeka araştırmacısı Naomi Saphra, 2015 yılında “bir programcının en kötü kabusuyla” karşılaştı. On yıl süren kodlamanın ardından tam doktora programına başlamak üzereydi. İskoçya'daki programda ellerindeki nöropati yazmayı çok acı verici hale getiriyordu.
Çözüm arayan Saphra, üzerinde çalıştığı teknolojiye yöneldi. Sesten metne dikte teknolojilerini kullanarak kodlamayı kendi kendine öğretme uzun sürecine başladı. Bugün, Saphra'nın belirli görevleri tamamlamak için büyük ölçüde özelleştirdiği Talon adlı bir sistem, ona dil modelleri üzerine yaptığı araştırmalar için kodlama yapmasına ve makaleler yazmasına olanak tanıyor.
Kempner Doğal ve Yapay Zeka Çalışmaları Enstitüsü'ndeki araştırma görevlisi, “Buna tamamen güveniyorum” dedi. “Konuşmayı metne dönüştüren yapay zekaya sahip olmasaydık kesinlikle bir kariyerim olmazdı. Bilgisayarı fazla kullanamıyorsanız, bu günlerde dünyada var olmanız oldukça zor. İşler ilerledikçe kelime hata oranının yıllar geçtikçe azalması çok önemli oldu.”
Yapay zeka teknolojisi, Saphra gibi görünürde olmayan engelleri (diğerleri tarafından hemen anlaşılamayan fiziksel veya zihinsel rahatsızlıkları) olan kişiler için güçlü bir yardımcı araç olabilir. Ancak engellilik savunucuları, bu araçların gerçekten erişilebilir hale gelmesi için daha kat etmesi gereken uzun bir yol olduğunu söylüyor. Uzmanlar, yapay zeka adaleti ve geliştirme süreciyle ilgili tartışmalara engelli kişileri de dahil etmenin çok önemli olduğunu söylüyor.
“Belirli gruplara karşı önyargı oluşturabilecek bilgilerle beslendiğini bildiğimiz araçlar yaratıyorsak ve bunları hayatımızın çok önemli yönlerine entegre edersek, bunun etkisi ne olacak?” Bilim Tıp Fakültesi biyomedikal bilişim alanında çalışan Lawrence Weru bu soruyu soruyor.
Kris Snibbe/Bilim Personel Fotoğrafçısı
Bilim Tıp Fakültesi'nde biyomedikal bilişim alanında çalışan Lawrence Weru, Siri ve Alexa gibi sesle etkinleştirilen yapay zeka araçlarının 2010'ların başında piyasaya sürülmesiyle ilk başta heyecanlandı. Kişisel bilgisayarlar yaygınlaşmadan önce, küçük yaştan itibaren halk kütüphanesi bilgisayarlarında kodlamayı öğrenen biri olarak, uzun süredir dijital teknolojideki gelişmelere hayran kalmıştır. Ancak kekemeliği olan Weru, sesle etkinleşen teknolojinin yararlı olmaktan çok sinir bozucu olduğunu hemen fark etti. Dijital asistan, Siri'ye yön sorarken kekelemesi halinde soruyu anlayamıyordu.
Bu pek de yeni bir deneyim olmasa da (Yapay Zeka'dan önce Weru, bankasıyla iletişime geçmenin ve otomatik telefon sistemini geçememenin yarattığı hayal kırıklığını hatırlıyor) yapay zekanın muhtemelen insanlardan gelen verilerle eğitilmediğini fark etmek hayal kırıklığı yarattı. onun gibi engelli.
Weru, “İnsanlar bir şeyler yaratıyor ve insanların akıllarında her zaman eşyalarını kimin kullanacağına dair bir vizyon var” dedi. “Bazen herkes bu kişilere dahil değildir.”
Siri ile olan deneyimi Weru'yu sesle etkinleşen yapay zeka teknolojisinin geleceği konusunda endişelendiriyor; doktor randevuları alma, iş başvuruları yapma, eğitime erişim gibi kritik görevlerin insanlar tarafından değil, gerçekleştirilemeyecek teknolojiler tarafından desteklendiği bir dünya tasavvur ediyor. herkes tarafından kullanılır.
“Belirli gruplara karşı önyargı oluşturabilecek bilgilerle beslendiğini bildiğimiz araçlar yaratıyorsak ve bunları hayatımızın çok önemli yönlerine entegre edersek, bunun etkisi ne olacak?” dedi Weru. “Bu, insanların önceden ele almaya çalışacak yeterli öngörüye sahip olmasını umduğum bir endişe, ancak tarihsel olarak erişilebilirlik genellikle sonradan akla gelen bir şeydir.”
Kempner Enstitüsü'nden araştırma görevlisi Naomi Saphra, “Konuşmayı metne dönüştüren yapay zekaya sahip olmasaydık kesinlikle bir kariyerim olmazdı” dedi.
Jon Chase/Bilim Personel Fotoğrafçısı
Berkman Klein İnternet ve Toplum Merkezi'nden Maitreya Shah, yakın zamanda “Yapay Zeka adaleti” üzerine farklı düşünce okullarını veya dışlanmış gruplardaki insanlara karşı Yapay Zeka önyargısını hafifletmeyi amaçlayan hareketleri analiz eden bir araştırma projesi başlattı. Kör bir avukat ve araştırmacı olan Shah, erişilebilirlik hakkındaki konuşmaların ötesine geçmek ve sorunun kökü olduğuna inandığı şeyi incelemek istiyor: Engelli insanlar, yapay zeka hakkındaki konuşmalara, hatta yapay zeka adaleti hakkındaki konuşmalara bile dahil edilmiyor.
Shah, “Şimdiye kadar pek çok araştırma yapay zeka teknolojilerinin engelli insanlara karşı nasıl ayrımcılık yaptığına, algoritmaların engelli insanlara nasıl zarar verdiğine odaklandı” dedi. “Bu projedeki amacım, yapay zeka sistemlerini düzeltmek ve zararları azaltmak için başlatıldığı iddia edilen yapay zeka adaleti konusundaki tartışmanın bile engelli insanların haklarını, zorluklarını ve yaşanmış deneyimlerini yeterince hesaba katmadığını anlatmak. ”
Araştırması için konuyu inceleyen akademisyenlerle röportaj yapıyor ve hükümetler ile yapay zeka endüstrisi tarafından önerilen yapay zeka adaletini korumak için tasarlanan çerçeveleri değerlendiriyor.
Shah, geliştiricilerin genellikle engellilik verilerini “aykırı veriler” veya genel modelden büyük ölçüde farklı olan ve bazen hariç tutulan veriler olarak değerlendirdiğini söyledi. Ancak dahil edilse bile, diğerlerine göre daha fazla göz ardı edilen bazı engeller (görünmeyen engeller gibi) vardır. Bir yapay zeka, engelliliğin dar bir “tanımı” üzerine eğitilmişse (örneğin, kekeleyen kişilerden alınan verilerin sesle etkinleştirilen bir yapay zeka aracını eğitmek için kullanılmaması gibi), sonuç, araca erişilememesi olacaktır.
Shah, “Bir paradoks var” dedi. “Eğer engellilik verilerini dahil etmezseniz, algoritmalarınız, algoritmalarınızın normatif fikirlerine uymadıkları için engelli kişilere karşı ayrımcılığa açık olacaktır. Verileri dahil ederseniz, pek çok engelli insan yine de gözden kaçırılmış olacaktır, çünkü doğası gereği veri kümelerini birleştirme şekliniz, verileri kimlik eksenlerine göre bölersiniz.”
Shah, kendi hayatında, görüntüleri tanımlayan “Benim Yapay Zekam Ol” ve kullanıcılara metin, renk, ışık ve manzara gibi görsel bilgiler sağlayan “Yapay Zekayı Görmek” gibi bazı yapay zeka teknolojilerini yardımcı araçlar olarak kullanıyor. Görme engelli insanlar her iki aracın da geliştirme ve test sürecine yoğun bir şekilde dahil oldu.
Ancak Shah, yapay zekaya yönelik üst düzey karar alma ve geliştirme süreçlerine sıklıkla engelli kişilerin dahil edilmediğini söyledi. onlara fayda sağlayın. Örnek olarak otizmi teşhis etmek veya öğrenme güçlüklerini gidermek için tasarlanmış teknolojiyi gösterdi.
“Soru şu: Otizmli veya başka engeli olan insanlar bu teknolojileri istiyor mu? Kimse onlara sormuyor” dedi Shah.
Shah, araştırmasında katılım gibi engelli adaleti ilkelerinden perspektiflerin benimsenmesini önermektedir.
“Engelli insanların teknolojilerin geliştirilmesine ve yaygınlaştırılmasına katılmasına izin verin. Bırakın onlar kendileri için neyin iyi olduğuna karar versinler, bırakın kendi kimliklerini nasıl tanımlamak veya şekillendirmek istediklerine karar versinler.”
Saphra da aynı fikirde; bu nedenle yardımcı yapay zeka oluşturan herhangi bir geliştiricinin, bunu yalnızca yapay zeka uzmanları veya kodlayıcılar tarafından değil, teknoloji uzmanı olmayan kişiler tarafından da kolayca özelleştirilebilir hale getirmesi gerektiğine inanıyor. Bu şekilde kullanıcılar, sistemi Saphra'nın kod yazarken yaptığı gibi belirli, temel görevleri gerçekleştirecek şekilde ayarlayabilir.
Saphra, “Yayınladığınız her şeyin hacklenebilir olduğundan, her şeyin açık kaynak olduğundan ve başlangıçta her şeyin erişilebilir bir arayüze sahip olduğundan emin olmak çok önemli” dedi. “Bunlar, onu çok sayıda engelli insan için daha kullanışlı hale getirecek.”
Ayrıca bu seride