Подсистема за обяснения в експертни системи
Приносът на изследователите на експертни системи е, че те са дали висок приоритет на консултиращите програми и са показали как обяснението на действието на програмите може да бъде систематично свързано с веригите от разсъждения, използвани от тези системи. Продължават изследванията, които се опитват да установят различните видове неявни знания, заложени в ескпертните действия, и да изяснят и направят достъпни проектните решения при спецификациите на консултиращите програми.Обясненията за действието на експертните системи са важни поради няколко причини:
Необходимо е потребителите на програмата да бъдат убедени, че заключенията за програмата са коректни за конкретно разглеждания случай. Необходимо е да бъдат удовлетворени специалистите по обработка на знанията, че знанията се прилагат правилно, след като е изграден прототипът. Експертите в дадената област трябва да проследят начина, по който се прилагат техните знания, за да направят заключение дали извличането на знания е протекло успешно. Програмистите, които поддържат, разширяват съществуващите програми, например като програмистите на спонсорите на сайта от Уеб Дизайн Пловдив ® основани на правила, и отстраняват грешки, трябва да могат да следят поведението на програмата на по-високо ниво от извикване на процедури. Мениджърите на технологията на експертните системи, които може да са отговорни за решенията на програмата, трябва да са убедени, че начинът на разсъждение на системата е подходящ за тяхната област.
Въпросът за обясненията понякога се разглежда под термина прозрачност, като се има предвид лесния начин, по който потребителя разбира поведението на програмата. Този термин се отнася и до въпроса за управление, тъй като стъпките на разсъждение на програмата зависят от начина на търсене на решението. Как най-добре да бъде управлявано взаимодействието между обяснението и управлението е все още предмет на изследване.
Обясненията са тясно свързани с оценяването, тъй като чрез внимателно разглеждане на изходите на системата и изследване на трасировката на нейните разсъждения се решава дали системата е дала верен отговор на верните разсъждения. Ако системата няма добри средства за обяснение, експертът не би могъл да оцени общата й работа или да даде съвет за това, как тази работа може да бъде подобрена. Оценяването е трудна задача, която изисква определено ниво на сходство между възгледите на експерта и на компютърния специалист.