TÜRKİYE BİYOETİK DERNEĞİ Yönetim Kurulu Başkanı Prof. Dr. Neyyire Yasemin YALIM, Uzm. Emine TOPÇU ve Öğretim Görevlisi Gülay HALİDİ ile Tıp Etiği konusunda söyleşi yapacağız.

W- Yapay Zekâya ahlaki statü verilebilir mi? Onlara karşı davranışımızı rasyonel olarak düşünürsek ahlaki tutumumuz olacak mı? (Francis Kamm-2006)

N.Y.- Bu konu Ankara Üniversitesi Tıp Fakültesi Tıp Tarihi ve Etik Anabilim Dalı doktora öğrencilerinden Öğretim Görevlisi Gülay HALİDİ’nin çalışma alanı olan yapay zekâ, robot etiği ve posthuman kavramlarını doğrudan ilgilendirdiği için, sözü ona bırakmak istiyorum.

G.H.-Yapay zekâya ahlaki statü verilebilir mi sorusu yapay zekâ etiği bağlamındaki önemli sorulardan-sorunlardan biridir.

Ahlaki statünün tanımının netleştirilmesi burada önemli kilometre taşlarından biri olacaktır.

Yapay zekâya ahlaki statü tanınmasının ya da tanınmamasının olası sonuçları ise bir başka tartışma çerçevesi oluşturmaktadır. Ahlaki statü sorunu, yapay zekâ tasarımını belirleyen unsurların hayata geçirilmesi açısından da önemlidir. Bir diğer konu yapay zekâyı ahlaki statüye götüren gelişmeler de insanın ne ölçüde belirleyici olacağıdır. Diğer tarafta ise insan tarafından dillendirilen ahlaki statünün, yapay zekâ nezdinde ne ölçüde geçerli olacağı sorusu bulunmaktadır. Bu bağlamda önemli olan bu soruların yanıtına ulaşabilmek için ahlaki statü tartışmaları yürütmektir. Francis Kamm’ın ahlaki statü tanımı “bir varlığın ahlaki statü sahibi olmasının anlamı, onun kendine özgü bir ahlaki değeri bulunduğu için onun iyiliğinin gözetilmesi, ona yapılacaklara izin verilmesi ya da verilmemesidir [“X has moral status = because X counts morally in its own right, it is permissible/impermissible to do things to it for its own sake. (Kamm 2007: chapter 7; paraphrase)”]” şeklindedir.

Buradan yola çıkarak önemli bir sorular silsilesi daha karşımıza çıkıyor;
yapay zekânın doğrularını belirleme kriteri ne olacaktır,
ahlaki kodlar yapay zekâya nasıl verilecektir,
ahlaki dilin gelişmesi için nasıl tasarlanacak ve nasıl gerçekleştirilecektir?
Ancak tüm bunların cevaplanması yapay zekâya bir ahlaki statünün tanınmasının önünü açacaktır.

W- Ülkemize ziyarete gelen ve Atatürk paylaşımı ile dikkate çeken yatırımcı E. Musk; insanların da yapay zekâ gibi bir beyin yapısına sahip olmasından geçtiğini söyleyerek yapay zekâ araştırmaları için “Open AI” isimli bir merkez kurdu. Şimdi ise insanların yapay zekâ gibi bir beyin yapısına sahip olmasını sağlamak adına “Neuralink” isimli şirket kurarak araştırmalarına çoktan başladı bile. Bu Etik anlamında alanınıza girmekte midir?
Bize göre bu tehlikeli bir gelişme; benzeri bir konu ülkemizde gündeme gelirse derneğinizin ve sizin düşünceleriniz ne olurdu?

G.H.-Open Artificial Intelligence, insan beyninin çalışma prensiplerinden yola çıkarak yapay zekâ araştırmaları ve modellemeleri yapmak;
Neuralink ise insan beyni ile yapay zekâ arasında iletişimi sağlayacak beyin makine arayüzleri geliştirmek üzere kurulmuş, kâr amacı gütmeyen şirketler olma iddiasını taşımaktadır.
Sizin tehlikeli gelişme olarak nitelendirdiğiniz herhalde her iki şirketin amaçladığı-hedeflediği çalışmalar olsa gerek…

İnsanın ilişki içerisinde bulunduğu veya insan yaşamına dikkate değer bir biçimde dokunan her unsurun etiğin ilgi alanına girdiğini söylemek olanaklıdır. Bu çerçevede bahsettiğiniz gelişmelerin biyoetik çerçevesinde ele alınması gereken konulardan olduğu da aşikârdır. Yapay zekânın neredeyse yaşamımızın kaçınılmaz bir parçası haline geldiği hem tüketiciler hem de üreticiler açısından bir gerçektir. Buradan hareketle yapılması gerekenin Dr. Victor Frankenstein gibi sadece zoru-imkânsızı başarabilme hırsı ile hareket etmemek; yürütülen araştırmaların ve tasarlanan üretimlerin bilimsel-teknolojik-ekonomik boyutlarının yanısıra toplumsal ölçekte yaratmaları olası sonuçları da göz önünde bulundurmaktır. Böylelikle onların doğru kullanım alanlarını belirleyebilir, karşımıza çıkabilecek etik sorunları-ikilemleri öngörebiliriz. Açıklık bu bağlamda önemli bir husustur; araştırmaların yürütülme süreçlerindeki gelişmeler mümkün olduğunca, sonuçları ise bütünüyle kamuoyunun bilgisine sunulmalıdır.

Neural Lace projesi üzerinden şekillenen Elon Musk’ın kurduğu Neural Link şirketi,  insan beyni ile yapay zekâ arasında kurulacak direkt iletişimi bir beyin-makine arayüzüyle gerçekleştirmek ve belki bu konuda insan beynine kimi implantlar eklemekle ilgilenmektedir. Bu konuda sıklıkla dile getirilen husus, söz konusu ikili arasında “telepati” gerçekleşmesidir. Bu konuya National Geographic’in yayımladığı Geleceğe Doğru adlı belgeselde de yer verilmişti.

Telepati yöntemi Parkinson, kuadripleji gibi nörolojik hastalıklara yakalananların hayatını kolaylaştırma ve belki de tedavi olmalarını sağlama iddiasındadır.

Etik bağlamda gündeme gelen ve tartışılan unsur ise yöntemin olası farklı kullanım alanları ve sonuçlarıdır. Telepatinin etik tartışmaya yol açan en çarpıcı niteliği, hem insanlar arasında hem de yapay zekâ ile insan arasında sözler, jestler, mimikler olmadan -ki bunların kimi zaman yanıltıcı olabileceğini veya gerçek düşünceleri yansıtmayacağını söylemek mümkün- düşüncelerin direkt aktarımının veya okunmasının söz konusu olmasıdır.

Burada bir parantez açarak düşünce ile ilgili birkaç saptama yapmak istiyorum. İlk olarak düşüncelerimizin ulaşılması en zor olan mahrem bir alanımız olduğunu, ikinci olarak da kimi zaman bu mahrem alanın hem varlığımızı devam ettirmemiz hem de toplumsal ölçekte iyi ilişkiler geliştirmemiz açısından avantaj oluşturduğunu söylemek olanaklıdır. Düşüncelerimizi paylaşma yaklaşımı ise “irade” ile ilişkilidir. Dolayısıyla kişiye özel bir özgürlük alanıdır. Telepati yoluyla iletişimin bir yandan iradeyi ve mahremiyeti önemli ölçüde zedelediğini, diğer yandan düşünceyi özgürlük alanının dışında bir yerde konumlanmaya zorladığını söylemek olanaklıdır.

Bu çerçevede, söz konusu teknolojinin düşüncelerimizi takip eden ve farklı düşünceleri kabul etmeyen bir iktidar aygıtına dönüşmesi olasılığı önemli bir etik sorun olarak karşımıza çıkmaktadır.

Telepatinin olası bir kötüye kullanımı, yöneticilerin toplum genelinde bir örnek duygusal-düşünsel yaşantılar biçimlendirmesi şeklinde olabilir. Bu şekilde ortak duygulanımlara ve düşüncelere sahip hale getirilen toplum üyelerinin nevi şahsına münhasır birer kişi olmaktan çıkıp sürünün birer parçası haline gelmesi veya her türlü manipülasyona açık bulunması söz konusu olabilir.

Yapılan araştırmaların gerekçesi olarak yüksek sesle dile getirilen; fiziksel fonksiyonları kısıtlayan veya yok eden nörolojik hastalıklarda kullanım ise,  başka kişilere bağımlılığı azaltıp isteklerini kendi başına gerçekleştirmede bir özgürlük alanı açmaktadır. Yalnız burada etik açıdan dikkat çekmek istediğim unsur, bu olanağın sınırlı kaynakların adil kullanımıyla ilgili sorun yaratma potansiyelidir. İleri teknoloji ürünü yüksek maliyetli donanımların kullanımının her ihtiyaç duyan için gerçekleştirilememesi; belli bir kesime özgü bir ayrıcalık olarak kalması önemli bir sorundur.

W- Geçtiğimiz günlerde PwC bir çalışmasını yayınladı ve “tıpta yapay zekâ ve robotbilim insan sağlık görevlilerinin yerini alabilecek mi?” konusunu ortaya attı, sizlerin düşüncesi nedir?

G.H.- İlgili makalenin-çalışmanın başlığını bilmediğim için bunun üzerinden bir değerlendirme yapmam söz konusu değil; ama sizin makale bağlamında dile getirdiğiniz sorun üzerinden bir cevap vermek isterim. Yapay zekâların veya belirlenmiş sağlık uygulamalarını gerçekleştirmek üzere tasarlanmış robotların, insan sağlık profesyonellerinin yerini tamamen almasının kısa-orta vadede mümkün olmayacağını ancak bunların sağlık mesleklerinin belli görevlerini devralacağını düşünüyorum. Dolayısıyla bu donanımların henüz nesne konumunda olduğunu da ayrıca vurgulamak isterim. Nitekim tıbbın kimi alanlarında halihazırda bunlar kullanılmaya başlandı. Belki ileri bir aşamada gelişmiş donanımın kendi adına bir sağlık mesleği ve o mesleği icra eden sağlık profesyoneli olacağı söylenebilir. Bu durumun etik açıdan önemi, bir yandan sağlık meslekleri arasında yaşanagelen etik sorunların benzerlerinin bu meslekle diğerleri arasında da ortaya çıkması olasılığının bulunması; diğer yandan ise bu mesleğe ve onu icra edenlere özgü bir meslek ahlakının nasıl var edileceğinin belirlenmesidir.

Sağlık mesleklerini salt algoritmik ve teknik birer yapı olarak ele almak tıbbı eksik algılamak demektir.

Sağlık mesleklerinin önemli bir boyutu hasta ile sağlık profesyoneli arasındaki “güven” ve “empati” ilişkisidir. İster fiziksel ister psişik olarak yaralanmış olsun, bir insana dokunan kişinin kendi türünden olması ve benzer deneyimleri yaşama potansiyeli barındırması bu ilişkinin kurulmasında temel koşul ve varlığında başat özelliktir. İnsan ancak kendine yabancı saymadığı ya da tehlike olarak nitelendirmediği varlıkların kendisine dokunmasına izin verir. Bu dokunma aynı zamanda “seni tanıyorum-biliyorum” demenin ve yaşanan acıyı-ağrıyı-korkuyu anlamanın bir göstergesidir. Öte taraftan hastalıkların seyri kişi özelinde değişiklik gösterdiği ve sabit olmadığı için bu bağlamda kullanılan “bulanık mantık”, “yapay sinir ağları” gibi yazılımların tanıyı doğru koyma olasılığı insan sağlık profesyonellerininkinden yüksek olsa bile iyileşme sürecindeki etkisi görece zayıf kalabilir.

Dolayısıyla başta da belirttiğim gibi yapay zekânın hastalıkları iyileştirme konusunda insan sağlık profesyonellerinin yerini tamamen almasının ancak uzak bir gelecekte ve insanın da kendi adına dönüşüm geçirmiş olduğu bir zaman diliminde gerçekleşebileceğini düşünüyorum.  

W- Yapay Nöron Şebekesi modellemeleri yaklaşık 70 yıldır çalışılmakta, varacağı nokta kimilerine göre olumlu, kimilerine göre tehlikeli; bu konuda Tıp Etiği alanındaki görüşler nelerdir?

G.H.- İnsan sinir ağına benzer bir yapı oluşturma düşüncesinden yola çıkarak modellenen yapay sinir ağlarının işlevi, bilginin işlenmesi ve bu işleme sürecinin ürünü olan bir çıktının oluşturulmasıdır. Yapay sinir ağlarının önemli bir özelliği, yapay zekânın özerk olmasının önünü açabilme potansiyeli taşımasıdır. Yapılan birçok araştırmada yapay sinir ağlarının insana göre daha doğru tahminlerde bulunduğu tespit edilmiştir. Bu nitelik salgın hastalık, afet gibi önemli durumların tahmin edilmesi açısından çarpıcıdır. Yalnız yukarıda yapay zekâ etiği açısından ele aldığımız etik sorunların benzerleri yapay sinir ağları için de söz konusudur. Yine unutulmaması gereken bir unsur doğru veya yanlış olarak nitelendirdiğimiz şeylerin, anlık değil, kendi süreci ve bağlamı içerisinde belirlenebilir ve değerlendirilebilir olduğudur.

Bilimde ve teknolojide meydana gelen gelişmeler her zaman için olası sonuçları açısından tartışılmalı, etik bir perspektif ortaya konulmalıdır.

İnsanlığın sonunu getirebilecek bir tehdit olarak senaryolaştırılan yapay zekâ da toplumsal-çevresel ölçekte yaratacağı olası sonuçlar üzerinden tartışılmalı ve yamaç aşağı kayma argümanı çerçevesinde değerlendirilmeli; yapay zekâ etiği muhakkak geniş ve ayrıntılı bir yapı halinde ortaya konulmalıdır. Bana görüşlerimi dile getirme olanağı sağladığınız için teşekkür ediyorum.

W- Değerli düşüncelerinizi paylaştığınız için çok teşekkür ederiz.

ilk bölüm için:

Biyoetik perspektiften “Yapay Zeka ve Robot Etik Sorunları”