Отговорността при вземането на решения е в ръцете на човека и изкуственият интелект има подпомагаща роля в този процес. Трябва винаги да търсим механизми, средства, капацитет, за проверка на тези твърдения или сценарии, които сме получили от ИИ. Не вярвам, че президент на велика или на по-малко велика сила би взел решение на базата на това, че те са му подсказани от ИИ.
Това коментира в интервю за ДЕБАТИ.БГ директорът на Института по информационни и комуникационни технологии проф. Светозар Маргенов. Във вторник институцията проведе ден на отворените врати, където бяха представени някои от научните постижения на института в областта на изкуствения интелект.
Аз съм чувал коментари, които приемам с добродушна насмешка – как изкуственият интелект ще реши всички задачи. ИИ по-скоро ни помага, за да търсим решения. Много често, когато питаме нещо, добре направените системи ни предупреждават, че трябва да проверим това, което получаваме като отговор. Защото по дефиниция чат-ботовете почти винаги казват, че имат отговор, който са готови да предложат. Ние трябва да можем да проверим резултатите, които тези технологии ни дават, каза проф. Маргенов.
Той обясни, че важните научни списания, които публикуват научни статии, имат изискване да се декларира в коя област от изследването е използван ИИ и допълни, че има примери на генерирани изцяло от ИИ научни статии.
„Това е нашата защита от „халюцинаци“ в областта на науката. Има и много по-дълбоки етични проблеми, но това е още по-амбициозен въпрос“, допълни професорът.
ИИКТ при БАН има традиционен принос в областта на компютърно подпомаганата обработка на естествения език, което е в основата на широко разпространените днес чат-ботове.
„В същото време институтът има специализирани приложения, свързани с разработка на невронни мрежи, които решават конкретни, но много важни реални задачи. Това не са задачите, които можем да решим, като зададем въпрос на ИИ“, каза директорът на института. ИИКТ има принос в приложението на ИИ технологии за управление на човешки протези и в областта на създаването на нови лекарствени продукти.
„Исторически има период, в който лекарствата се правят почти изцяло експериментално. Десетки години са нужни като опит за създаване на едно лекарствено средство. Но идва момент, в който се ангажират много сериозно изчислителни ресурси и започва, т.нар. in silico – синоним на компютърно подпомогната дейност, моделиране на лекарствени средства, което да доведе до подбор на относително малък брой кандидати, които след това да могат да бъдат тествани експериментално“, обясни професорът.
Цялото интервю с проф. Светозар Маргенов четете утре.
