site.btaШест български редакции влизат във финалния проект на документ на ЮНЕСКО за етични стандарти на изкуствения интелект

EZ 07:15:01 09-11-2021
IS1819EZ.017 07:15
ЮНЕСКО - изкуствен интелект - етични стандарти

Шест български редакции влизат във финалния проект на документ на ЮНЕСКО за етични стандарти на изкуствения интелект


София, 9 ноември /Теодора Цанева, Лора Метанова, БТА/
Шест български редакции влизат във финалния проект на документа за етични стандарти на изкуствения интелект, който Генералната конференция на ЮНЕСКО ще гласува на сесията си през ноември.
Това съобщи за БТА доц. Мариана Тодорова - доктор по футурология и учен от Института по философия и социология към БАН, която е участвала в изработването на документа. Някои от българските поправки са подкрепени и от други държави.
41-та сесия на Генералната конференция на ЮНЕСКО се открива днес в Париж и ще продължи до 24 ноември.
Документът с етични стандарти на изкуствения интелект има препоръчителен характер, целите са човечеството да се възползва от изкуствения интелект и чрез него да се промотира развитие и мир, да се подпомогнат държавите членки, които започват да се сблъскват с въпроси за изкуствения интелект, обясни Тодорова. Заложени са четири ключови ценности, първата от които - уважение и предпазване на човешкото достойнство, права и свободи.
Засягат се областите, за които отговаря ЮНЕСКО - образование, наука, околна среда, култура, и само по изричното настояване на България и още няколко страни, е бил включен пазар на труда и заетост. Документът не се отнася за военните системи и системите за сигурност за полуавтономни и автономни оръжия, защото това е извън обсега на организацията, уточни Тодорова.
Част от приноса на България е, че сме изисквали икономика, пазар на труда и професии да бъдат изведени като отделен сектор на въздействие. Препоръките са да се предвиди, че много професии ще бъдат заменени от автоматизацията и роботизацията, от навлизането на изкуствения интелект, а други ще бъдат трансформирани, така че да се изготвят програми в две насоки.
Едната е хората, които изцяло има риск да бъдат заменени от изкуствен интелект, да се преквалифицират, а другите да бъдат обучени как да си сътрудничат с него, каза експертът. И даде пример - счетоводители, офис мениджъри, на някакъв етап доставчици, охранители могат да бъдат изцяло заменени от роботизация и изкуствен интелект, докато юристи и лекари ще трябва да си сътрудничат с него.
Тя посочи, че вече има правни платформи, които правят правен анализ, due diligence /комплексна, надлежна проверка/. В момента в Америка се разработва такъв тип платформа, която е служебен защитник за най-бедните.
Друга платформа, на базата на симптоматиката, която човекът описва, прави диагностика с до 87 процента точност. Това показва не че ще изчезнат личните лекари, но че техният брой след около 20 години може да бъде редуциран, ако компютърната диагностика стане масова практика, обясни футурологът.
Българска редакция е и препоръката в документа потребителите да знаят дали продуктът или услугата, която получават, е генерирана или е асистирана от изкуствен интелект. Смятам, че това е едно от най-силните предложения, които направих от името на България, каза Мариана Тодорова. Тя обясни, че алгоритмите могат да ни профилират и затова е предложила хората да знаят как се предоставя услугата или продуктът.
В проектодокумента е регламентирано, че крайните решения трябва да са взети от човек, посочи експертът и обясни защо. Има платформи, базирани на изкуствен интелект, които банките ползват, за да отпускат кредити.
Някои от аргументите са изцяло калкулирани на база статистика. Да речем, човекът, когато желае да получи кредит, подава молба в понеделник. Ако получи отказ, това може да се дължи не само на анализа на неговото кредитно досие, но на статистически аргумент, че взетите в понеделник кредити се връщат с 0,3 процента по-малко. Има някаква статистическа зависимост, която за нас не е обяснима, но изкуственият интелект я изчислява, разказа Тодорова.
Според нея най-важната препоръка в документа е, че самият изкуствен интелект, който е обучаван чрез големи данни, възпроизвежда нашите предразсъдъци, т.нар. biases, сред които по пол и раса. Когато полицията на Лос Анджелис иска да засече престъпник в някакъв периметър, изкуственият интелект винаги предполага, че това са чернокожи или латиноамериканци, т.е. предявява расови предраздъци, даде пример футурологът. В документа изрично е регламентирано също, че отговорността е на хората, защото все още се възприема, че това е тесен изкуствен интелект, който е под човешки контрол.
Второто важно българско предложение, което е било прието в документа на ЮНЕСКО, е, че наблюдението от изкуствен интелект чрез преносими сензори или устройства, които се прикрепят върху човешкото тяло /wearables или insideables в бъдеще - капсули, които се поглъщат/, трябва да бъде със съгласието на самия пациент или на неговите роднини. По наше искане беше регаментирано при такова обстоятелство хората да бъдат информирани, че се използват техните здравни данни, обясни Тодорова. Ако пацииентът не е в съзнание, да се вземе разрешение от роднините, както сега се взема информирано съгласие преди операция, посочи тя и отбеляза, че изкуственият интелект ще има най-силно влияние в медицината.
Друга поправка е, че изкуственият интелект ще се ползва в образованието да подкрепя процеса, но така, че да се гарантира, че няма да се понижат когнитивните способности на индивида и няма да се извлича чувствителна информация. Има платформи, базирани на изкуствен интелект - когато ученикът или студентът четат някакво научно съдържание на дигитално устройство, може това устройство да бъде свързано с платформа, базирана на изкуствен интелект за лицево разпознаване. Платформата, анализирайки мимиките и движението на погледа, може да каже дали студентът или ученикът възприемат добре информацията, дали я разбират и дали имат някакви затруднения, обясни Тодорова. Това, от една страна, може да засили индивидуалния подход в образованието, защото учителят ще знае кой на какво ниво е и накъде да насочи вниманието си. От друга страна обаче, това е лична информация и, ако попадне на неправилното място, човек може да бъде дискриминиран, коментира експертът. По думите й, отделно може да се събере доста странична информация.
Вече има такъв тип платформи, при които изкуственият интелект прави транслитерация и компютърът записва текст, т.е. като диктуване. В момента чрез изкуствен интелект е възможен и превод от 180 езици. Да, не схваща сарказъм или хумор, но е на доста добро оперативно равнище, коментира Мариана Тодорова. Все пак тя обясни, че когато спрем да учим езици, да пишем ръкописно или да композираме музика, защото това сега може да става с интерфейс, това може да понижи развитието ни и когнитивните ни способности.
Четвъртата важна българска поправка е, че всички страни и региони трябва да имат еднакъв достъп до данни, защото изкуствения интелект се развива на принципа на обработка на много данни. И ако отделните страни нямат еднакъв достъп - данните са като гориво - някои не биха били равнопоставени спрямо други, посочи експертът.
Петата поправка, в която участвах, е, че трябва да се съблюдава да не се допусне монополизация на някои услуги и продукти, защото това ще даде изключително конкурентно предимство и сила на отделни държави или на отделни корпорации, каза Мариана Тодорова. Например ако Китай направи пръв пробив за един по-съвършен изкуствен интелект, геополитически ще стане лидер, коментира тя. Шестата българска поправка в документа на ЮНЕСКО е, че държавите трябва да следят за влиянието на изкуствения интелект и при използването му от медии и доставчици на информация.
Според Мариана Тодорова в бъдеще ще се стигне до необходимостта от регулация и вероятно тя ще важи на регионален принцип. Едва ли ще можем да гарантираме, че глобално ще се спазва, коментира тя и даде пример с Китай, който от една година насам е въвел социалната кредитна система и там хората биват възнаграждавани или наказвани според поведението си. Ако някой изхвърля боклука си нерегламентирано или преминава на червен светофар, му отнемат сто точки. Ако жена кърми бебето си, е възнаградена с 50 точки, както и ако посети възрастните си родители. Опасността тук идва от това, че нашето поведение се околичествява и например пет невинни действия, като неправилно изхвърляне на боклук или антиправителствено съдържание в социалните медии, могат да ни превърнат в рецидивисти, коментира експертът.
Според нея е вероятно да има правна рамка на изкуствения интелект и тя ще произлезе от Европейския съюз, но не всички страни, включително Америка и Русия, ще искат да я съблюдават, защото това означава да се откажат от лидерство или от конкуретно предимство. Точно сега, когато тесният изкуствен интелект започва масово да навлиза в повечето човешки сфери, е необходимо да се проведе глобален диалог кое е допустимо и кое не, отбеляза футурологът.
Светът би могъл да бъде и утопичен, и антиутопичен, от нас зависи накъде ще насочим ползването на всички тези дигитални технологии, коментира Тодорова. Тя даде пример, че изкуственият интелект в медицината вече е способен да диагностицира с хоризонт от пет години напред възможността човек да развие рак, най-вече на гърдата и на кожата. Откриват се много нови формули за лекарства, галактики в космоса. Има огромни възможности, но самите хора са тези, които дават такъв тип посоки - антиутопични, за следене и профилиране, отбеляза тя.
В момента изкуственият интелект оперира в едно поле и дава решения, но не разбира какви решения дава. Но дори на това ниво, има огромни последици, посочи Тодорова. Според нея, ако регулациите не започнат на това ниво, колкото повече изкуственият интелект еволюира, толкова повече безнадеждно закъснели ще бъдем.
Някои учени смятат, че до 20 години ще стигнем тази точка на сингулярност, в която съществува генерален изкуствен интелект, започнал да превключва от една област в друга и да има някакъв тип съзнание, да може да си поставя цели и да ги решава, т.е. конкуретна на нас същност. Други пък учени смятат, че това никога няма да се случи, защото ние нямаме обяснение какъв феномен е нашето съзнание и не можем да го пресъздадем, посочи експертът. Тя отбеляза, че изкуственият интелект вече е ангажиран в експерименти с ембрионална селекция за инвитро процедури, използва се в образованието, ще замени много професии, ще трансформира други, ще бъде ангажиран в дълголетието, в проекти за безсмъртие. Най-важното е, че самите хора имат склонност към това все по-трудно да взимат решения и да желаят да делегират подобни механизми на изкуствен интелект, смятайки, че той би бил обективен и би защитил всички гледни точки, но това не е така, допълни доц. д-р Мариана Тодорова и отбеляза, че подобно абдикиране е отказ от човешки суверенитет.





/ИС/