Интервю

Не трябва да отричаме ИИ, а да се образоваме

15-06-2023 06:36
Ако не съумеем да се телепортираме в новата високотехнологична реалност, няма да можем да вземаме отговорни и адекватни решения, смята маг. фарм. Ивайло ПетровНе трябва да отричаме ИИ, а да се образоваме
Мария
Мария
Чипилева
chipileva@gmail.com

Изкуственият интелект (ИИ) чука на вратата ни. Навлизането му в света и конкретно в здравеопазването повдигат повече въпроси, отколкото отговори. Какво представлява той, какво да очакваме и готови ли сме като общество за него, попитахме маг. фарм. Ивайло Петров. Той е предприемач, съосновател на здравно-технологична компания, както и член на Съвместната онкологична национална мрежа (СОНМ).

 

- Г-н Петров, какво означава Изкуствен интелект в здравеопазването и има ли вече той реално място в практиката?

- Дефинициите са доста, особено за обхвата на здравеопазването. Така или иначе ИИ със своето динамично развитие в момента представлява невронни системи в една електронизирана среда. Това определение е много абстрактно, трудно е да си го представим, познавайки и анализирайки човешкия мозък, невронната система на човека или на едно живо същество. Можем абстрактно да си представим ИИ по този начин, но той е една доста сложна комбинация, която се надгражда от различните „невронни импулси" в случая данни, които постъпват в нея.

ИИ категорично има място в здравеопазването и считам, че то ще е все по-голямо, но успоредно с това трябва да вземем под внимание N на брой етични съображения за употребата му.

- Доколко тази „невронна" машинна структура може сама да мисли и целенасочено да променя света по начина, по който го прави човека със своя мозък?

- Тя може да мисли, но на базата на подадените данни и логика, заложени в изграждането на даден процес. Доколко този процес е динамично мисловен, какъвто е процесът в човешкия мозък, все още няма доказателство. Всъщност мисълта на технологията е в посока да структурира на базата на определени показатели, а не да интерпретира, нещо, което е характерно за човека и неговия мозък. Още повече, че човешкият мозък си служи с една интеракция със заобикалящата го среда, докато ИИ все още не е стигнал това ниво на развитие и съвършенство, за да може да контактува със заобикалящата го среда.

- Но предполагам, че това е въпрос на време, защото чрез сензори той би могъл да получава данни, да ги анализира и да прави заключения. Колко скоро предстои това и до какво ще доведе – ще може ли един ИИ да създава друг?

- Това вече се случва, ако вземем дори да вземем chatGPT, в своята версия 4 той е компактност от свързаности, които развиват ИИ. Тоест така нареченото „екосистемно" свързване е процес, който отдавна съществува в технологичното развитие, но в последните години това на практика е реалност и все повече и повече се търси. Разбира се, основната цел е да приближим максимално функционалностите на ИИ в полза на човека. В някаква степен обаче и да изместим част от ролите на човека, но това не означава, че човекът губи своята роля в управлението на процесите.

- Но един световен уважаван философ и историк като Ювал Ноа Харари изказа опасения, че ИИ може да започне да манипулира хората доколко това опасение е основателно?

- То е напълно основателно и мога да дам пример. Разговаряйки с един мой приятел, който работи активно в тази зона, използвайки като тестова среда chatGPT, той отчита, че не малка част от неговите колеги са склонни прекалено много да се доверят на машината. В не малка част от случаите това е погрешно, защото машината генерира един или два отговора, но не и анализи. Тук е чувствителният момент, за който споменах и който засяга възможността да се доверим изцяло на ИИ, особено в области като здравеопазването.

- Как това може да се прецизира и може ли да се контролира ИИ, така че той наистина да остане в полза на човека, а не да се превърне в наш съперник?

- Не знам доколко можем да контролираме този процес, защото той е свързан с динамиките и обмен на данни, но можем да контролираме нашият ангажимент и акт на взаимодействие с този процес. Това е свързано с нашето допълнително ограмотяване в следствие на навлизането на съвременните технологии. Трябва да се опитаме да научим за тях повече, за да можем да ги разберем и да контролираме процесите на интеракция с машината. Това е доста чувствителна тема и има доста рискове особено в здравеопазването този процес да се изтегли в една или друга посока. Тук идва и другият момент – на нуждата от регулиране на този процес.

- Процесът на регулация изостава от темпа, с който се развива ИИ. Как ще се преодолее тази диспропорция и ще има ли забавяне на пускане в употреба на ИИ, докато се навакса разминаването?

- Няма как да има забавяне, защото тази научно предприемаческа общност, която се занимава с тези технологии е изпреварила времето си, по-скоро въпросът за нас е като общество и заинтересовани страни доколко можем да телепортираме себе си и нашите знания до там, така че да вземаме отговорни решения. Така че, когато използваме терминология като „екосистема" това означава всички заинтересовани страни да се съберат и да вземат съгласувано решение и стъпки за взаимодействие и интеракция между тях. Ако това се осигури, ще можем да контролираме в някаква степен развитието на високите технологии и тяхното използване.

- Реално случва ли се това?

- Фактът, че към момента FDA и ЕМА доста трудно съумяват да тълкуват как да регистрират продуктите, които биха били в полза на обществото или на лекарите означава, че нямаме тази готовност. Може би тя ни липсва в следствие на затвореното мислене. Връщайки се върху екосистемите, ние трябва да отворим процеса на мислене и регулаторите да ангажират заинтересованите страни да работят в отворена дискусия с тях. Добра крачка в тази посока са действията на ЕК по отношение на регулацията за ИИ или Европейското пространство на здравни данни, където работните групи успяват да вземат обратна връзка от заинтересованите страни. Но тук има и другата страна – как да се намери баланса между всички интереси и по какъв начин един такъв тип документ би могъл да бъде свързан с други административни актове, за да се регулира този процес. И тук е сблъсъкът между предприемача, мечтателя - технологичният творец, реалната среда и администратора на процеса.

- Ако обществото не успее да навакса тази пропаст и да достигне развитието на ИИ, какво ни очаква, какви са рисковете?

- Рисковете са много и са изцяло в плоскостта на моралния процес. Знаете последиците, ако един човек се довери на фалшива новина например, представете си, какво се случва, когато имате достъп до реален и бърз тип технология, какъв би могъл да е рискът. Преди време говорих с един колега и той ми каза – Аз си представях, че ще напиша 2-4 въпроси и ИИ ще ми даде отговор за моето здравословно състояние. Това е реалното мислене на обществото и то показва, че човек е склонен да се предоверява на ИИ, а това е опасно.

- Има ли опасност ИИ да измести човека от работното му място, да отнеме възможността да бъде господар на живота си?

- Смятам, че тези рискове са силно преувеличени и можем да разгледаме историческата еволюция на някои професии, които са се трансформирали с оглед на индустриалното и технологично развитие. Същото трябва да се случи и сега с навлизането на ИИ в нашето ежедневие било то в работен порядък или в личен. Тоест, не трябва да слагаме бариера между технологичното и нашето житейски развитие. Отговорът за мен е, че трябва да се адаптираме към новата реалност, а не да я отричаме. Дори днес ние се докосваме в N на брой дейности с ИИ, той седи дори зад отварянето на социалните мрежи. Въпросът е по правилния начин като общество да можем да селектираме поведението си, в този процес съществена роля ще има всяка една компания или разработчик на такъв тип продукт. Тези хора трябва да облекат всеки продукт с норма на поведение и информация за употребата му, което ще помогне на потребителя да дообразова себе си за работа с ИИ и да оценява ползите от него.


ИИ с първата си енергийна напитка

ИИ с първата си енергийна напитка

Пускат я на пазара още през това лято, съобщават от компанията производител

ИИ с 5 препоръки към новия здравен министър

ИИ с 5 препоръки към новия здравен министър

Внедряването на единна национална здравноинформационна система е сред тях, липсата й води до намаляване на ефективността и увеличаване на разходите в системата, казва ChatGPT

ИИ може да намали риска от човешки грешки

ИИ може да намали риска от човешки грешки

Но използването му в медицината повдига етични въпроси - например, кой носи отговорност при допускането им от системата, казва ChatGPT

ИИ в здравеопазването – що е то?

ИИ в здравеопазването – що е то?

Неизвестните в приложението и контрола на изкуствения интелект остават много повече от известните, което провокира тревога

Видео преглед

По следите на здрaвната реформа с clinica.bg

СПРАВОЧНИК
Има ли недостиг на инсулин в аптеките?

Март 2024 Предишен Следващ