Отговорността за вземането на решения остава в ръцете на хората, докато изкуственият интелект играе помощна роля в този процес. Важно е винаги да търсим механизми, средства и способности, за проверка на информацията или сценарии, които сме получили от ИИ. Не смятам, че президент на велика или по-малка държава би взел решение, основавайки се единствено на предложения от ИИ.
Това сподели в интервю за ДЕБАТИ.БГ директорът на Института по информационни и комуникационни технологии, проф. Светозар Маргенов. Във вторник институтът организира ден на отворените врати, на който представи част от научните си достижения в сферата на изкуствения интелект.
Срещал съм коментари, които приемам с усмивка – че изкуственият интелект ще реши всички проблеми. Всъщност, ИИ ни съдействва в търсенето на решения. Често, когато отправяме въпроси, добре проектираните системи ни предупреждават да проверим отговорите, които получаваме. Тъй като по принцип чат-ботовете почти винаги предлагат отговори. Ние трябва да можем да анализираме резултатите, които тези технологии предоставят, каза проф. Маргенов.
Той уточни, че водещите научни списания изискват авторите да посочат в коя област на изследването е използван ИИ, добавяйки, че има примери на изцяло генерирани от ИИ научни статии.
„Това е наша защита от „халюцинации“ в науката. Съществуват и по-дълбоки етични въпроси, но те са част от по-амбициозен дискурс“, допълни професорът.
ИИКТ при БАН традиционно допринася в областта на компютърно подпомаганата обработка на естествения език, което е в основата на разпространените днес чат-ботове.
„Същевременно, институтът разработва специфични приложения, свързани с разработване на невронни мрежи, които се справят с конкретни, но съществени реални проблеми. Това не са задачи, които можем да разрешим, като просто зададем въпрос на ИИ“, сподели директорът на института. ИИКТ е важен в прилагането на ИИ технологии за управление на протези и разработване на нови лекарства.
„Има исторически период, в който разработката на лекарства се осъществява почти изцяло експериментално. Стотици години опити са нужни, за да се създаде едно лекарство. Но идва момент, в който се включват значителни изчислителни ресурси и започва т.нар. in silico – компютърно подпомагано моделиране на лекарства, което води до отбор на сравнително малък брой кандидати за експериментално тестване“, поясни професорът.
Цялото интервю с проф. Светозар Маргенов ще бъде публикувано утре.
