Aslında gönüllü bir kontrol ilişkisi gibi görülüyor değil mi? Size kimse zorla bunu yaptırmıyor. Ancak algoritmalar bizim ihtiyacımızı bize sunuyorlar, bizde ihtiyacımızın ne olduğuna böylece karar veriyoruz!
Golbeck NPR radyosunda katıldığı programda, “çoğu durumda sadece sizin mevcut durumunuzla ilgili şeyler öğrenmekle kalmayız, henüz sizin bile farkında olmadığınız ama gelecekte sizinle ilgili doğru hale gelecek şeylerle ilgili de bir fikir sahibi haline gelebiliyoruz” diye konuşuyor. Ve Algoritmaların hakkımızda öğrenebileceği şeyleri kontrol edebilmemiz mümkün değil. Çünkü bu algoritmalar çoğunlukla açıktan söylediğiniz yönlerinizden hareket etmiyor, detaylardan, kullandığınız kelimelerden, sosyal medyadaki arkadaşlarınızdan bile kişilik özelliklerinizi fark edebileceği yeterli istatistiki bilgiye ulaşabiliyor.
Hatta kendilerine özgü bir önyargı bile geliştirebiliyor. Amerika’da siyahlara özgü bir ismi Google’da arattığınızda, sonuç sayfası ile birlikte gelen Google reklamlarının, ‘adli sicil tarama’, ‘tutuklama tarihçesi kontrol’ şirketlerinin olması skandal olmuştu. Jenn Golbeck‘in geliştirdiği algoritma, araştırma amaçlıydı ancak şu anda birçok firma veya kurum tamamen başka amaçlarla benzer algoritmalardan geliştiriyor. Golbeck, geliştirdiği algoritmanın muhtemel kullanım alanlarını düşündüğünde bunun kendisini bir kara ütopya gibi ürküttüğünü söylüyor: ‘Örneğin her hangi bir hata yaptıkları için değil, algoritma onun güvenilir biri olmadığını söyleyeceği için birileri işini kaybedebilir’.
Otoriter devlet ve kapalı toplumlarda bu çok daha zalimce amaçlar için de kullanılabilir. ‘Bu yapay zekanın sadece online profilinizde biraz gezinmesiyle hakkınızda varacağı sonuçla birçok insanın hayatını mahvına neden olabilirim.’ diye endişesini paylaşan Golbeck, sonuçta atom bombasının üretileceği Manhattan Projesinde çalışan iyiniyetli bilim insanlarının ruh halini yaşadığını söylüyor: ‘Geliştirdiğim şey bir şehri yok etmeyebilir ama bir şehir dolusu insanın hayatını mahvedebilir. Bu da beni çok korkutuyor.
Bu teknolojik süreçten geri de dönemeyiz. O yüzden de bu algoritmaların etkisini düşünmeli ve sosyal, hukuksal tedbirleri şimdiden mutlaka almalıyız’. Bu ne derece mümkün olacak bilemiyorum ama şu gerçekle yaşamayı da öğrenmekte yarar var:
Aşı ile çip mi yerleştirilir, HES kodunuz ile güvenliğiniz mi bilemem ama İnternete baktığımız her zaman, internet de bize bakıyor. Bundan emin olabilirsiniz...
Golbeck NPR radyosunda katıldığı programda, “çoğu durumda sadece sizin mevcut durumunuzla ilgili şeyler öğrenmekle kalmayız, henüz sizin bile farkında olmadığınız ama gelecekte sizinle ilgili doğru hale gelecek şeylerle ilgili de bir fikir sahibi haline gelebiliyoruz” diye konuşuyor. Ve Algoritmaların hakkımızda öğrenebileceği şeyleri kontrol edebilmemiz mümkün değil. Çünkü bu algoritmalar çoğunlukla açıktan söylediğiniz yönlerinizden hareket etmiyor, detaylardan, kullandığınız kelimelerden, sosyal medyadaki arkadaşlarınızdan bile kişilik özelliklerinizi fark edebileceği yeterli istatistiki bilgiye ulaşabiliyor.
Hatta kendilerine özgü bir önyargı bile geliştirebiliyor. Amerika’da siyahlara özgü bir ismi Google’da arattığınızda, sonuç sayfası ile birlikte gelen Google reklamlarının, ‘adli sicil tarama’, ‘tutuklama tarihçesi kontrol’ şirketlerinin olması skandal olmuştu. Jenn Golbeck‘in geliştirdiği algoritma, araştırma amaçlıydı ancak şu anda birçok firma veya kurum tamamen başka amaçlarla benzer algoritmalardan geliştiriyor. Golbeck, geliştirdiği algoritmanın muhtemel kullanım alanlarını düşündüğünde bunun kendisini bir kara ütopya gibi ürküttüğünü söylüyor: ‘Örneğin her hangi bir hata yaptıkları için değil, algoritma onun güvenilir biri olmadığını söyleyeceği için birileri işini kaybedebilir’.
Otoriter devlet ve kapalı toplumlarda bu çok daha zalimce amaçlar için de kullanılabilir. ‘Bu yapay zekanın sadece online profilinizde biraz gezinmesiyle hakkınızda varacağı sonuçla birçok insanın hayatını mahvına neden olabilirim.’ diye endişesini paylaşan Golbeck, sonuçta atom bombasının üretileceği Manhattan Projesinde çalışan iyiniyetli bilim insanlarının ruh halini yaşadığını söylüyor: ‘Geliştirdiğim şey bir şehri yok etmeyebilir ama bir şehir dolusu insanın hayatını mahvedebilir. Bu da beni çok korkutuyor.
Bu teknolojik süreçten geri de dönemeyiz. O yüzden de bu algoritmaların etkisini düşünmeli ve sosyal, hukuksal tedbirleri şimdiden mutlaka almalıyız’. Bu ne derece mümkün olacak bilemiyorum ama şu gerçekle yaşamayı da öğrenmekte yarar var:
Aşı ile çip mi yerleştirilir, HES kodunuz ile güvenliğiniz mi bilemem ama İnternete baktığımız her zaman, internet de bize bakıyor. Bundan emin olabilirsiniz...
