Казусы и ответственность компьютеров

Итак, проблема решена. Знания и умения самых знающих и умелых можно вложить в компьютер, а он даст безошибочный совет в любой мыслимой ситуации. В любом ли случае будет решена проблема?

Один американский специалист по экспертным системам рассказывал недавно на конференции анекдотичную быль. Врач обследовал больного, пользуясь консультациями экспертной системы, созданной специально для диагностики болезней, которые сопровождались болями в спине, и никак не мог обнаружить признаков заболевания. Однако пациент упорно жаловался на боль — именно в спине. Когда же врач ненадолго отвлекся от перебора возможных вариантов, он случайно обратил внимание на большой бумажник, который торчал из заднего кармана пациентских брюк. Твердый предмет постоянно давил на спину, он то и послужил причиной загадочного недуга. Какая заложенная в компьютер система может предугадать такой казус?

Впрочем, такое случается редко. И отнюдь не подобные казусы ограничивают возможности компьютеров. Системы, имитирующие человеческие умения, используют заранее заданный набор признаков. Многие эксперты признают этот набор бесспорным, но он заведомо ограничен. В своей практической деятельности специалист почти всегда может воспользоваться признаками из базы умений. Но слово «почти» остается. Вот почему искусственная система всегда умеет меньше, чем ее создатель.

Многое зависит от того, как строится база умений, насколько тщательно выбираются признаки. Теперь уже установлено, что пользование системой заставляет специалиста быть особо внимательным, проводить обследование по всему множеству признаков, лишает его возможности поспешно выбрать первую пришедшую на ум гипотезу, не обратив внимания на конкурирующие. Это очень хорошо, система может оказаться полезной даже для ее создателей. Но никогда нельзя забывать, что совет, полученный от компьютера, вооруженного чужими знаниями и умениями,— это всего лишь консультация опытного человека, которого, к сожалению, нет рядом и который поэтому не может взглянуть на ситуацию собственными глазами.

И еще одна серьезная проблема, связанная с использованием компьютеров советчиков. Она уже появилась в США, где есть опыт применения экспертных систем. Возникает вопрос, кто отвечает за принятое решение — человек, который поверил компьютеру, или сама система, то есть её создатели. Экспертам известны случаи, когда ответственность пытались свалить на них. При всех обстоятельствах отвечать за диагноз, проект, любое решение, принятое с помощью компьютера или без него, должен тот, кто это решение принял.