Ana Sayfa Ana Sayfa Biyoetik perspektiften “Yapay Zeka ve Robot Etik Sorunları”

Biyoetik perspektiften “Yapay Zeka ve Robot Etik Sorunları”

TÜRKİYE BİYOETİK DERNEĞİ Yönetim Kurulu Başkanı Prof. Dr. Neyyire Yasemin YALIM, Uzm. Emine TOPÇU ve Öğretim Görevlisi Gülay HALİDİ ile Tıp Etiği konusunda söyleşi yapacağız.

W- Allen Institute: “Bir sistemin, ister bizim gibi organik bileşenlerden ister bir robot gibi inorganik bileşenlerden oluşsun, yeterince karmaşık bir yapıya sahipse ve bu karmaşık yapının bileşenlerinin birbiri ile yeterince “aktif” bağlantısı varsa bu yapının kendi bilincini oluşturabileceğini” iddia etmekte.

Yapay Zekâ konusuna etik açısından yaklaşımınız nasıldır?

N.Y.- Bu konu Ankara Üniversitesi Tıp Fakültesi Tıp Tarihi ve Etik Anabilim Dalı doktora öğrencilerinden Öğretim Görevlisi Gülay HALİDİ’nin çalışma alanı olan yapay zekâ, robot etiği ve posthuman kavramlarını doğrudan ilgilendirdiği için, sözü ona bırakmak istiyorum.

G.H.-Öncelikle bu söyleşiye beni dâhil ederek onurlandıran değerli Hocam Prof. Dr. N. Yasemin Yalım’a çok teşekkür ederim.

Yapay zekânın cisminin veya ham maddesinin ne olacağı üzerindeki Allen Instute’tan yaptığınız alıntı sanırım biyolojik olan ve biyolojik olmayan ayrımına tekabül ediyor. Aslında yaşadığımız dünya üzerinde de diğer biyolojik varlıklardan bizi ayıran temel unsurlar içerisinde bilinç ve zekâ olduğu genel kabul görmektedir.

Yapay zekâ bağlamında zeki makineler olarak nitelendirilen ve derin öğrenme, yapay sinir ağları gibi belli programlamalara dayandırılan insan çabası ürünlerinden bahsediyoruz. Bu ürünlerin insana günümüzde ve özellikle gelecekte önemli kolaylıklar sağlaması söz konusu. İnsanın yapay zekâyla olan ilişkisi ve onun hakkında kurguladığı-hedeflediği-dillendirdiği ileri aşamalar ile yapay zekânın insana yönelik yaklaşımları bağlamında gerçekleştirilen değerlendirmeler ve davranışlar ise yapay zekânın etiğini oluşturuyor.

Yapay zekâyla ilgili etik tartışmalar genellikle öngörüler üzerine kurulmakta ve çoğunlukla da distopik bir yaklaşımla yürütülmektedir. Bu çerçevede ben de size tartışılması gerektiğini düşündüğüm birkaç başlıktan bahsetmek istiyorum.

İnsan yapay zekâ ilişkisinde önemli unsurlardan biri, yapay zekânın genel olarak insan türüne özel olarak ise kişilere ilişkin birçok veriye ve bu veriyi işleyecek yüksek donanıma sahip olmasıdır. Kişilerin, toplumsal-kültürel yapılarının ve insan türünün niteliklerinin özel ve gizli bilgilerini elinde bulunduran yapay zekânın bunları ihlal ve istismar etme olanağı-olasılığı bulunmaktadır.

Yapay zekânın komplike problemleri çözmede hem zaman hem de nitelik açısından insandan daha üstün konuma gelmesi halinde, insanın yapay zekâya birçok açıdan bağımlı ve giderek ona tabi olacağı düşünülebilir. Etik perspektiften bu bağımlılık insanın özerkliğini kaybetmesi anlamına gelmektedir. 

Stuart Russell’a ve Peter Norvig’e göre yapay zekâ insan gibi düşünen, insan gibi davranan, rasyonel düşünen, rasyonel davranan şeklinde dörde ayrılmaktadır. Bunların tümünde kodlanmış algoritmalar değerlendirmelerin-davranışların ana belirleyicisidir. Bununla birlikte kodlanmanın dışında kalan konularda yapay zekânın özerk kararlar almasını gerektiren durumların olabileceği de bir tartışma başlığıdır.  Robot etiği kapsamında gündeme getirildiği üzere, özerkliğin varlığı kişi olmanın ön koşullarından biridir.

İnsan dışı varlık olan hatta kimi zaman somut-maddi boyutu bulunmayan yazılım veya program halindeki yapay zekânın özerklik kazanması, varoluşa ilişkin kafa karıştırıcı bir durumdur. Öte yandan kritik aşamalarda verdiği özerk kararın kötü sonuçlara yol açması durumunda kimin hesap vereceği; eylemi gerçekleştiren yapay zekânın mı, onun algoritmalarını belirleyen yazılım mühendisinin mi, ona sahip olan veya onu kullanan yetkililerin mi sorumlu tutulacağı belirsizdir. Çünkü yükümlülük ve sorumluluk bilişsel yeterlilikleri bulunan, özbilinci gelişmiş olan kişilerin gerçekleştirdiği eylemlerle ilgili kavramlardır.

İnisiyatif kullanarak soruna yol açma olasılığı göz önüne alındığında yapay zekânın tıp, eğitim, savunma gibi kritik öneme sahip alanlarda kullanımında dikkat ve sınırlılık esas alınmalıdır.   Bu alanlarda kazanç veya prestij kaygısıyla yapay zekâya yönelmemek; sınırlı kullanımı zaruri durumları belirleyerek ve ortaya çıkabilecek etik sorunları öngörerek düzenlemek gerekmektedir.

Yapay zekânın insan zekâsına eşdeğer hatta ondan daha üstün konuma gelmesi durumunda insanın ona nasıl bir ahlaki statü ve hangi hakları tanıması gerektiği üzerinde durulması gereken önemli bir konudur. Öte yandan özbilinç, özerklik ve hatta insandan üstün kimi niteliklere sahip yapay zekânın insanın ahlaki statüsünü ve haklarını tanıyıp tanımayacağı da ayrı bir sorunsaldır. Bu sorunsal, öngörüye dayalı pesimist bir yaklaşım gibi görünmekle birlikte, yapay zekâların tasarlanması ve hayatımıza dahil edilmesi aşamalarında üzerinde düşünülmesi ve algoritmaların ona yönelik olarak tasarlanması gereken bir ikilemdir. Bu bağlamda dikkate değer bir husus da kendi kendini tasarlama yeteneği kazanacak yapay zekânın gerçekleşip gerçekleşmeyeceği ve gerçekleşmesinin olası sonuçlarıdır.  İnsanın diğer türlere ve doğaya “yukarıdan bakarak” ahlaki statü tanımasına benzer şekilde yapay zekânın insana “yukarıdan bakarak” ahlaki statü tanıması olasılığı ironik bir durumdur.

Doğada önemli bir iktidar unsuru olmaya çalışan insanın doğayla ve diğer türlerle olan ahlaki ilişkisi etiğin özellikle de biyoetiğin önemli tartışma konularındandır. Doğanın ve diğer türlerin varlıklarının devam etmesinde önemli bir ahlaki yükümlülüğü olduğu kabul edilen insanın, kendi eseri olan ve belki ileride bir özbilinç-özerklik oluşturma potansiyeli bulunan yapay zekânın doğayla kuracağı ilişkideki sorumluluğu, bir diğer dikkate değer unsurdur. İnsanın bu ilişkiyi belirlemede dolaylı bir faktör olarak kendi ihtiyaçlarını mı, doğanın koşullarını ve ihtiyaçlarını mı esas alacağı ayrı bir sorundur.

Özellikle insan gibi düşünen veya davranan yapay zekâ tasarımında ve kullanımında ortaya çıkabilecek bir etik sorun kümesi, insanın emosyonel ihtiyaçlarını gidermeye yönelik olarak tasarlanan yapay zekânın yol açacaklarıdır. Hem rasyonel hem emosyonel niteliklere hem de kırılgan bir yapıya sahip insanın, yapay zekâya duygusal olarak bağlanması ve ilişkideki sorunlar nedeniyle incinmesi, hayal kırıklığı yaşaması olasıdır. Karşı tarafta yapay zekânın emosyonel zekâ niteliklerini kazanması ise onun araç olma niteliği ile bağdaşmama bakımından ayrı bir sorun oluşturmaktadır.

Adalet ilkesi bağlamında toplumların ve kişilerin yapay zekânın sağladığı olanaklardan farklı derecede pay alması; bu şekilde güç kazanmış kişiler-toplumlar ile diğerleri arasında oluşacak statü farkı da yapay zekâ ile dolaylı bağlantı içeren bir etik sorundur.

Yapay zekâ etiği ile ilgili dile getirdiğim unsurları toparlayarak, gündelik hayatımızda giderek daha fazla yer kaplayan yapay zekânın “varlığının bir dert, yokluğunun yara” olduğunu söylemek mümkündür. Kaçınılmaz geleceğe hazırlıksız yakalanmamak adına konunun etik boyutunun tartışma gündeminde tutulması, olası toplumsal-çevresel etkilerinin hesaplanması ve bunlarla ilgili tedbirlerin alınması gerekmektedir. İnsan eseri olan bu ürünün dönüşüm geçirme potansiyeli hesaba katılmalı ve sadece tasarım aşamasının değil, dönüşüm sonrasının da ahlaki sorumluluğu bulunduğu gözden kaçırılmamalıdır.

W- Robot Etiği nedir? Bu konuda çalışmalarınız var mı?

G.H.- Söze sorunuzun ikinci kısmının yanıtıyla başlamak isterim. Robot etiği ile ilgili yayımlanmış herhangi bir çalışmam olmamakla birlikte hocam Prof. Dr. N. Yasemin Yalım’ın Tıp Etiği Genel Konular adlı doktora dersinde robot etiği ile ilgili bir makaleyi irdelemişliğim ve bunu ödev olarak teslim etmişliğim var.

Yaşamın belli aşamalarında insana yardımcı olması için tasarlanan robotların, hem insangücü hem de zaman açısından kolaylık ve tasarruf sağlayacağı öngörülmektedir. İnsan toplumuna entegre ve tabi olan mekanik bir varlığın, insan varlığına derinden dokunan tıp, askerlik, eğitim gibi kritik alanlarda rol verilmek üzere tasarlanması, doğal olarak insan-robot ilişkisini etik tartışmaların konusu haline getirmektedir.

Robotlar tamamen insana entegre olacak biçimde tasarlandıklarından statülerinin doğadaki insandışı canlı varlıklardan farklı olacağı aşikârdır. Çünkü doğadaki canlı varlıkların kendilerine ait birer habitatları bulunmaktadır. Vahşi türlerin insana değil doğaya tabi bir yaşam sürdürmeleri, insana benzer biyolojik varoluş özelliklerine sahip olmaları söz konusudur. Robotun ise insana veya diğer canlı varlıklara benzer bir biyolojik yapısının bulunmaması farklı bir ahlaki statüde olmasında rol oynamaktadır. Burada bir parantez açarak insanın doğaya hakim olma ve dünya iktidarını elinde bulundurma durumunun veya iddiasının, tüm insan dışı varlıkların; hem robotların hem de insan dışı türlerin statüsünü kendininkinden aşağıda konumlandırdığını, böylelikle bir anlamda onları buluşturduğunu söyleyebiliriz.  Robotun ahlaki statüsünü belirleme, ona karşı ahlaki yükümlülüklerimiz olması gerekip gerekmediği kararını verme çabamızın ana nedeni, ona insansı birtakım nitelikler yüklemiş olmamızdır.

Ahlaki karar vermenin emosyonel boyutunun tartışmaya açık, rasyonel boyutunun ise ön planda olduğunu kabul eden anlayış çerçevesinde duygu değil, sadece rasyonel çıkarım yapma yeteneği yüklenmiş robotların ahlaki kararlar verebilmesi olanaklıdır. Bununla birlikte rasyonel birtakım çıkarımlar yaparak ahlaki karar vermenin insana özgü olduğu da öne sürülmektedir. Ahlaki karar vermede önemli unsurlardan biri de özerkliktir. Rasyonelliğin yanısıra özerkliği de tam olan bir robotun ahlaki kararlar verebileceği, ahlaki ilişkiler kurabileceği söylenebilir. İnsanı kişi yapan nitelikler potasında toplanan unsurların robotlara da kazandırılmasının onları “insandışı kişi”ler haline getirdiği düşünülebilir. İnsan olmamakla birlikte kişi olan varlıklar konusu hayvanlar -özellikle kuyruksuz maymunlar- ve varlığı muhtemel uzaylılar üzerinden de tartışılmaktadır. Kişiyi kişi yapan özelliklerden biri olan geçmişi-anıları bulunmanın robottaki karşılığı ön yüklemedir. Robota da kazandırılabilecek olan ansal-genel-geleceksel kararlar verme yeteneği kişinin bir diğer temel özelliğidir. Kişilerin yanlış ahlaki kararlarından ders çıkarması söz konusudur ve bunun robotlarda da olması sağlanabilir. Kısaca kişi nitelikleriyle donanmış robot olanaklıdır… Kuşkusuz kişi niteliklerinin belirleyicisi insanların “kişi” kavramını anlama, açıklama, özetle kavramlaştırma yaklaşımlarıdır.

Kısmen ya da tamamen kişi olma niteliklerine sahip, özerk bir robotun etik olmayan ahlaki kararlar alıp hayata geçirmesi halinde ona karşı nasıl bir tavır alınacağı; sınırlı prototipik bir ön programlama yapıldıktan sonra belli yaklaşımlar çerçevesinde ahlaki yeterlilik kazandırılan robota gerektiğinde ne tür cezalar verilebileceği üzerinde durulmaya değer sorulardır. Bu sorulara cevap olarak akla ilk gelen yeniden programlama veya robotun yok edilmesi gibi cezalandırmalardır. Söz konusu sorunların hiç ortaya çıkmamasına yönelik olarak üretim aşamasında alınacak tedbirler bizi robot öjenisi gibi bir kavrama yaklaştırmaktadır. Son hali bakımından özerk bir varlık, bir kişi olan robotun üretim aşamasında araç-nesne niteliği taşıması akıl karıştırıcı bir durumdur. Cezalandırılmanın robot üzerindekilerin yanısıra onunla sempatik ilişki geliştirmiş insanlar üzerinde de olumsuz etkiler gösterme potansiyeli ayrı bir sorundur.

Vurgulanmaya değer konulardan biri de robotlara verilecek roller, görevler, sorumluluklar ve haklardır. Bu konularda netleşme olmamasının robotların alacağı ahlaki kararların önem ve ciddiyet derecesi hakkında belirsizlik yaratması söz konusudur. Robotların inisiyatif kullanacağı durumların sınırlanmaması; insanlarınki kadar geniş olması, insanlar kadar ahlaki yetkinliğe sahip olmaları gerekliliğini ortaya çıkartmaktadır. Bunun alternatifi olarak bazı çevreler sınırlı inisiyatif ve ancak onu destekleyebilecek düzeyde ahlaki yetkinlik sahibi olmanın yeterli olduğunu kabul etmektedir.

Robotların mükemmelen özerk varlıklar-kişiler haline gelmesi olasılığı akla yamaç aşağı kayma argümanını getirmektedir. Burada bir parantez açarak “yamaç aşağı kayma” argümanına bir açıklık getirmek istiyorum. Biyoetik alanında kullanılan bu argüman, belli bir konuda attığınız ilk adımın, öngörülemeyen, kabul edilemeyecek olumsuz sonuçlara yol açma tehlikesini barındırması hakkındadır. Yamaç aşağı kaymaya başlandığında kontrolü yitirmek ve etik açıdan kabul edilemeyecek bir noktaya sürüklenmek söz konusudur. Buradaki distopik kurgu mükemmel robotların insan ötesi bir formasyon kazanması, onların yanında insan kişilerin görece basit ve sorun çıkarma potansiyeli yüksek kalmasıdır. Böyle bir durumda insanların robotların statüsünü belirlemeye çalışmasının yerini, robotların insanların akıbetini tartışmaya açmasının alacağı söylenebilir.

W- Yapay Zekâya ahlaki statü verilebilir mi? Onlara karşı davranışımızı rasyonel olarak düşünürsek ahlaki tutumumuz olacak mı? (Francis Kamm-2006)

devam edecek….

1 Yorum

Comments are closed.