Популизъм измества експертността

- Д-р Симидчиев, как законът ще пази интересите на лекарите и пациентите?

- Има три елемента свързани с регулирането на ИИ - етичността, законността и технологиите. Законът дефинира кои са отговорниците по съответните направления а те проверяват съответствието с всеки от трите елемента. В здравеопазването човекът, който ще е отговорен, е министърът на здравеопазването. Той ще бъде задължен да назначи координатор по използването на изкуствен интелект с основни правомощия, които ще бъдат придадени към Изпълнителната агенция „Медицински надзор", като регулатор, който да може да контролира този вид дейност. Освен Закон за използването и развитието на изкуствения интелект, в който на няколко места се споменава здравеопазването, макар и не в детайли, той прецизира основните механизми заложени в Регламент 2024/1689 в нашето законодателство и служи като мост или отправна точка към секторните закони. Важен е и фокуса върху обучението на хората, които ще работят с ИИ. Това, което ще направим допълнително в областта на здравеопазването, е промяна и в Закона за здравето, който ще допълним с конкретика за ползването на И.И. от медиците, стига да има воля в пленарната зала за приемането му. Предвиждаме „Информационно обслужване" да разработи национални клинични експертни системи, които лекарите да ползват безплатно. Това да бъде ангажимент на държавата произтичащ от наличието на данни които събираме в НЗИС, така щото да облекчи клиничната работа по отношение на диагностиката и лечението. С ИИ наличната информация може да бъде подредена и проверена. Когато това вече е направено, тя може да бъде използвана за предлагане на подходящо поведение на лекарите. Това са т. нар. експертни системи, които могат да предлагат даден подход, а лекарят сам да прецени дали той е най-подходящия за конкретен пациент или да вземе друго решение. На всеки клиницист ще му се дават опции на базата на информацията, която вече е събрана в масивите, свързани със здравното състояние на българските граждани.

- Кои са най-важните моменти в него, които ще регулират ИИ в здравеопазването и образованието?

- При всички положения здравеопазването е рисково при прилагането на ИИ, защото може да има непосредствени здравни последици. Ако сега имаме проблем с „д-р Google", (мисля, че колегите ще са съгласни че такъв проблем имаме), ИИ ще е „д-р Google на стероиди", т.е. много по-ефективен, по-мощен и следователно и по-опасен. Проблемът е, че както досега имахме случаи с негативни последици с д-р Google, тези проблеми също могат да бъдат усилени от технологиите на изкуствения интелект. Точно заради тази гледна точка трябва да прилагаме много висока степен на отговорност и на предварителна оценка на въздействието така, че да не допускаме ползване на иначе много полезните методи на ИИ безразборно и неконтролирано. Например, аз специално допълних закона с това, че трябва да оценим, как може да бъде регулирана и в известен смисъл ограничена възможността, за самолечение през изкуствен интелект. Ако досега това беше вредно, сега вече системата става толкова мощна, че започва да има непосредствени вреди по отношение именно на самолечението. Има данни от големи държави, като Индия например, че пациенти без достъп до лекар ползват ИИ, доверяват му се и забавят необратимо лечението на сложни заболявания, като да кажем онкологичните.

- За да върши работа ИИ, той трябва да бъде обучен. Според Вас, има ли реална опасност от злонамерени обучители, както и от обучение на ИИ за рекламиране директно и най-вече индиректно на лекарства, хранителни добавки и спорни терапии?

- Ако спазваме законите няма как да стане, защото лекарствените средства по смисъла на Закона за лекарствени средства, няма как да бъдат рекламирани. В предложението за законопроекта има няколко раздела, свързани с ИИ, предвиждащи в определени области той да не следва да бъде прилаган. Едно от тях е създаването на образи, т. нар. deep faкe – създаване на образ на министър-председателя или председателя на Народното събрание, които да говорят нещо, което не е истина.

- Deep faкe на известни личности и сега е практика, но източниците от платформи в трети страни не могат да бъдат установени и още по-малко санкционирани. Как тогава ще се действа у нас такава забрана?

- Може да се прави сатирично съдържание, когато е ясно, че поднасяното не е истина, но не може да се прави така, че то да изглежда като истина. Ако бъде направено като истинно, това вече е измама и трябва да се преследва от закона. Ако такъв образ е неразличим от истинския, ще е незаконно. Когато имаме подобно съдържание, то трябва да е ясно, че е генерирано от ИИ.

- Тоест, ще има надпис, че е информацията е генерирана с ИИ, така ли?

- Точно така. По същият начин ще се подхожда и към давани съвети. Трябва да има специално обозначение, когато препоръка за здравното състояние е направена от изкуствен интелект. Последващото, завършващото изречение трябва да бъде например „Моля Ви, консултирайте тези съвети с лекар, който да Ви даде медицински валидна препоръка. Това мнение е генерирано с изкуствен интелект". Така ще се показва, че изложеното не е медицинска препоръка и не може да се поеме отговорност за последствията от прилагането й.

- Как може на българска почва да се осъществи регулация до степен да е напълно надеждна употребата на ИИ в медицината?

- Европейският Регламент регулира в достатъчна степен този процес на европейско равнище. Понеже той директно се въвежда в нашето законодателство без да е необходимо да имаме отделна правна норма, няма нужда да правим нещо повече, освен да създадем институционално администрация, която да е отговорна за спазването на същия този регламент. Това ще е т. нар. национален координатор, който ще отговаря за цялостния процес. Той вероятно ще бъде ситуиран в Министерството на електронното управление. Отделно, по министерства ще има такива координатори, отговарящи за секторните политики. Естествено, ще има и координатор за въвеждането на ИИ в Министерството на здравеопазването.

- На 12 септември Албания стана първата страна в света с виртуален министър, управляван от изкуствен интелект. Възможна ли е такава практика и у нас и то в сферата на здравеопазването? Докъде и по какви критерии би следвало да бъдат регламентирани правомощията на такъв инструмент?

- Всъщност, термина „министър" е подвеждащ при преекспонирането му от медиите. Диела, което на албански означава „слънчева светлина", е експертна система изградена на базата на ИИ, занимаваща се основно с проверка на обществените поръчки по зададени критерии. Принципно това може да бъде въведено на много места, включително и в България почти веднага. Когато една обществена поръчка се пуска, критериите за спазването й, трябва да могат да бъдат проверени от обективна и безпристрастна електронна програма, каквато е Диела в Албания. Тя проверява, например, дали има критерии, които са уникални за един участник, дали има тегловни коефициенти подкрепящи конкретен участник да спечели и т.н. по тях програмата дава оценка, дали обществената поръчка е добре направена или не.

- Имате ли визия, на какъв етап може да бъде въведена такава програма за проверка на обществените поръчки и у нас?

- Не е нужно да е на следващ етап. Има готови модели, които могат да бъдат приложени директно у нас веднага, стига да има политическата воля да стане така, щото тези процеси да бъдат достатъчно прозрачни и работещи.

- Какви законови промени следва да бъдат направени у нас, предвид Регламент (ЕС) 2024/1689, за да бъдем защитени от злоупотреби?

- Освен, че ще бъдат въведени координатори по сектори – в здравеопазването, образованието и т.н., предвиждаме и промени в Закона за здравето. Те ще предвиждат съвсем конкретни мерки, чрез които държавата ще има по-активна роля в правенето на експертни системи за подпомагане на нашето здравеопазване и ще се стремят да облекчават кадровия дефицит – като намаляват административно-бюрократичната тежест там и във всички останали административни процеси, както и с продължаващото медицинско обучение. Това са проблеми, които могат да бъдат подпомагани ефективно с възможностите на изкуствения интелект. Следва да стане с тематично и държавническо мислене. Трябва да мислим за това не като хрумка на една партия, а за нещо, което е добро и прогресивно за нацията, като цяло.

- Няма как да не Ви попитам, как точно една експертна система ще бори кадровият дефицит? Вместо медицинската сестра да вкарва кодове, това да прави ИИ, а тя да влезе в отделението ли?

- Да, точно така. Това ще прави изкуственият интелект ще облекчи администрирането за да остави време за директен контакт с пациента. Трябва обаче да има ниво на проверимост, за да имаме доверие в системата. Иначе, някоя неправилно поставена запетайка може да обърка цялата система и да постави под риск пациенти.

В медицината винаги работим с нещо наречено съотношение риск/полза, и действаме, когато ползите значимо надвишават рисковете. Разбира се това зависи и от тежестта на болестта, която лекуваме. Например недопустимо е лекувайки лек обрив да получим рак, но е приемливо лекувайки рак да получим лек обрив. По същия начин и с ИИ – допустимо е да приемаме ниво на риск, когато решаваме най-тежките и трудни медицински проблеми, но в ежедневието и при действия засягащи деца, майки и уязвими групи – дори ниско ниво на риск става неприемливо.

Аз, като иноватор твърдо вярвам в огромния потенциал на технологиите – включително ИИ за развитието на здравната ни система, но като клиницист оставам консервативен там, където възприемам, че може да има риск за здравето или ползата би била незначителна.

- Накъде се накланят везните - към заплати по Колективния трудов договор или обвързване със средната работна заплата?

- Зависи от парламентарното мнозинство. Това, което ние от ПП-ДБ направихме е входирахме законопроект, обвързващ заплатите със средната работна заплата в страната – 150% за лекари и 125% за медицинските сестри. Мнозинството държи те да се определят с КТД, което макар и теоретично добро, на практика до сега не е сработвало. Проблемът с Колективния трудов договор е, че страните не са чак толкова активни в договарянето. Ако този подход се предпочете, вероятно скоро няма да има промяна. Нашето предложение за обвързването със СРЗ ще даде по-бърз ефект. Въпросът е, какво ще реши парламентарното мнозинство. Нещата опират не само до това, някой да го предложи, но и да намерим мнозинство от народни представители, които разбират къде е проблемът и да се вземе най-правилното решение.

- Има ли вече разговори за бюджета за 2026 г. на НЗОК между политическите сили в парлманта?

- Още не. Бюджетът на НЗОК, както и националният, не са входирани. От тази гледна точка мисля, че има още време преди да можем да направим нещо съществено. Това ще бъде първият бюджет в евро, който ще се разглежда. Искрено се надявам в него да видя повече приоритети за профилактиката и превенцията, а не просто за лечение. Това, което се случва сега в него е преобладаващо терапевтичен подход, а имаме нужда да направим много повече за превенцията и профилактиката, както и скринингови програми за ранно откриване на заболяванията. Така ще може останалата част от здравната система да спести от разходите. Всъщност, високите разходи в нашата здравна система основно са в тежкия край на спектъра от заболявания в резултат на късно диагностициране и коморбидни състояния. Това, което трябва да се случи е да ги хващаме много по-рано, когато се лекуват с доста по-скромен финансов ресурс.

- Профилактиката и превенцията са Ваша отдавнашна мечта, но така и не се стига до нея. Защо?

- Откакто съм политик, а и поне десет години преди това, в които се занимавам с обществено здраве, профилактиката и превенцията винаги са били за мен червената нишка, която следвам. Няма друг начин нашата здравна система някога да започне да управлява разходите си, ако ние продължаваме да неглижиламе това, което се случва с тежките заболявания и инвалидността.

- Има ли вече разговори за по-цялостна реформа в здравеопазването? Възможна ли е такава при този дисонанс в политическите виждания и партийни войни?

- Не бих казал, че са войни, защото ние имаме различни гледни точки, всеки има своите аргументи. Лошото е, че експертността минава на заден план, а на преден я изместват краткосрочните политически интереси и популизъм. Точно тя – експертността, би трябвало да води в десет-петнадесетгодишен хоризонт напред. Опитах се да насоча вниманието към това, когато приемахме Националната здравна стратегия до 2030 г. Там постигнахме доста добър политически консенсус, защото дискусията беше експертна. Случващото се в момента обаче, са основно краткосрочни проекти (кръпки и работа на парче) – дали до края на тази година ще има повече пари за това или нещо друго. Дългосрочната визия, която е свързана с детското, майчиното здравеопазване, борбата със сърдечно-съдовите, онкологичните и други социалнозначими заболявания, някак си остават да бъдат решени „малко по-нататък". Това „малко по-нататък" при този бурен политически живот обаче никога не идва, за голямо съжаление.