Спросите у любого чат-бота, кто считается основателем научного метода. Он почти наверняка ответит: Фрэнсис Бэкон. Проверка занимает минуту, и именно с этого простого теста на форуме inVision U в Алматы начался самый неудобный разговор дня – о том, что искусственный интеллект знает о нашей части мира и чего он о ней не знает. Подробнее – на Cronos.Asia.
Тест, который можно провести за минуту
Абдессамад Фатми, генеральный директор Erudite Counseling, много лет проработавший в марокканском университете Аль-Ахавайн, предложил залу проделать это самостоятельно. Задать модели три вопроса: кто основатель научного метода, кто отец современной медицины и кто стоит у истоков алгебры. Ответы, по его словам, будут предсказуемыми и западными.
"Настоящие основатели этих дисциплин – энциклопедисты, происходившие из этих земель. Научный метод формализовали задолго до Бэкона. Но в языковой модели записано другое, и она назовет вам Фрэнсиса Бэкона. А поскольку вы полагаетесь на модель, вы и сами будете повторять: Фрэнсис Бэкон", – объясняет Фатми.
Аргумент звучит абстрактно ровно до того момента, пока не вспомнить географию. Аль-Фараби родился в Отраре, на территории нынешнего юга Казахстана. Ибн Сина – в окрестностях Бухары, аль-Хорезми – в Хорезме. "Канон врачебной науки" Ибн Сины преподавали в европейских университетах больше пятисот лет. Все это есть в любом учебнике, но почти не попадает в ответы моделей, обученных преимущественно на английских и западноевропейских текстах.
"И только если надавить, модель ответит: да, вы правы, в одном проценте моих обучающих данных говорится об аль-Фараби, Ибн Рушде, Ибн аль-Хайсаме, аль-Хорезми", – заявляет эксперт.
Клещи, в которые попали незападные культуры
Свою конструкцию Фатми называет эффектом клещей: культуры за пределами западного мира зажаты между двумя разными угрозами, и обе работают одновременно.
"Одна опасность идет сверху. Если вас нет в наборе данных, на котором обучена модель, то вас не существует. Это я называю гегемонией знания: если ваше происхождение, ваша идентичность, ваша культура, ваши особенности отсутствуют в обучающих данных, вы не существуете".
Вторая угроза, по его словам, поднимается снизу и выглядит куда безобиднее. Это привычка к быстрым ответам.
"Другая опасность снизу – интеллектуальная и когнитивная атрофия. Мы знаем о людях, что мы ленивы. Мы привыкнем к мгновенным ответам, полюбим их, и критическое мышление будет медленно отмирать".
Вывод он сформулировал жестко: странам вроде Казахстана придется обучать собственные модели на собственных данных, а не отдавать на подряд, как он выразился, собственное познание и идентичность, чтобы кто-то другой объяснял им, кто они такие и в чем состоит их история.
Критическое мышление это умение задать вопрос
Алан Гринберг, пять с половиной лет руководивший образовательным направлением Apple и запускавший iTunes U, подошел к той же проблеме с другой стороны. Он предложил определение, которое звучит почти оскорбительно просто.
"Мое определение критического мышления – это способность сформулировать правильный вопрос. Если вы не умеете задать правильный вопрос, технология, о которой мы говорим, вам не поможет", – говорит Гринберг.
За этим у него идет вторая ступень, которую он называет критическим суждением: оценить, насколько релевантно то, что модель вернула, и перепроверить ответ, прежде чем встраивать его в собственную картину. По его оценке, от девяноста до девяноста пяти процентов нынешних образовательных технологий уже устарели, потому что образование перевернулось. Раньше знание двигалось сверху вниз, от лектора к аудитории. Теперь мировое знание доступно снизу вверх любому, кто готов задавать вопросы и идти шаг за шагом.
Закрытый ИИ вместо открытого
Из этих двух линий на панели сложился практический вывод. Гринберг перечислил три требования, которым, по его мнению, должна отвечать система, если ее собираются использовать в университете. Она должна быть построена под конкретную задачу, обучена на содержании, которое прошло экспертную проверку, и вызывать доверие. Без третьего пункта, по его словам, первые два не работают.
"Если система не построена на локальной основе, если она не учитывает культуру, если она не понимает среду, в которой работает, она бесполезна. Она должна быть локальной, региональной, соответствовать культуре – иначе вы провалитесь".
Модератор панели, президент inVision U Эндрю Вахтель, сформулировал ту же мысль через вопрос, который в зале прозвучал резче всего: как не допустить, чтобы всех усреднили и превратили в американцев, если университет готовит лидеров для собственных обществ. Ответ, к которому пришла панель, звучит контринтуитивно для эпохи открытых сервисов: речь не о том, чтобы строить открытый ИИ, а о том, чтобы строить закрытый. То есть собственные модели с закрытым набором данных, куда загружают материал, работающий в местном контексте. Если обучать систему преимущественно на казахстанских источниках, ответы будут другими – но только при условии, что модель создана вами.
Человек, которого никто не замечает
Гринберг начал свое выступление с того, что попросил зал вспомнить женщину, которая весь день работала синхронным переводчиком.
"Целый день мы говорили про искусственный интеллект, и никто ни разу не упомянул человека в контуре. Она провела нас через очень сложные доклады с безупречным темпом, с эмпатией, и делала это так, что слушать было интересно. ИИ мог бы сделать это и самостоятельно, но ИИ не сделал бы это так качественно, как сделала она".
Алия Асанбекова, руководитель IT-программы inVision U, которой поручили собрать годовой курс по лидерству, в итоге описала свою задачу почти теми же словами, что и Гринберг свою технологию. По ее словам, она не рассчитывает, что студенты выйдут с курса готовыми лидерами с критическим мышлением, и вообще считает, что за год это невозможно. Ее цель скромнее и конкретнее: научить задавать неудобные вопросы, брать ответственность тогда, когда ее не хочет брать никто, и справляться с неопределенностью, которой в жизни будет много.
И про чип
Открыл панель Вахтель, впрочем, не с этого. Он рассказал, что уже несколько лет задает студентам один и тот же вопрос: когда появится чип, который можно вживить в мозг и получить дополнительные способности, согласитесь ли вы его поставить. Студенты, по его словам, каждый раз отвечают отказом. Он с ними не спорит, а просто предупреждает, что выбора у них не будет, – примерно так же, как сегодня его нет у человека, решившего обойтись без смартфона.
В подтверждение он пересказал историю женщины, которая отказалась от смартфона и обнаружила, что сама стала счастливее, а все вокруг несчастны, потому что ей постоянно приходится просить окружающих сделать за нее то, что она больше не может сделать сама. Шутка зашла в зал легко, но за ней стоит ровно та же мысль, что и в жесткой части разговора.
Спор о том, заменит ли искусственный интеллект человека, на этой панели довольно быстро свернул в сторону. Вопрос оказался не в том, заменит ли, а в том, на чьих данных он обучен и кто попадет в его картину мира. Для страны, чей самый известный философ родился в Отраре, а в ответах моделей не появляется, это не самая абстрактная тема.