Ответ на пост «Упрощенная обработка естественного языка»1
Вот задумался - вместо того чтобы учиться говорить формализовано четко и грамотно, чтобы даже компьютер понимал команды, человеки учат компьютер понимать любую белиберду. Конечно, проще же не самим совершенствоваться а понаделать костылей, вбросив ресурсов.
---
Вспомнилось в этой связи как работал офисным сисадмином. Было это давно и тогда мало кто из пожилых бухгалтеров и клерков умел работать за компьютером. Однако все делились на 2 группы - тех кто хочет понять и разобраться и тех кто просто начинал верещать при любой проблеме, даже не пытаясь понять в чем причина. Чаще всего причина визга второй группы была в том что они сами не хотели понимать как и что делать.
Я не любил никогда строить из себя крутого админа и как-то тешить своё эго. Всем абсолютно старался разжевать и объяснить по максимуму как что и почему произошло/происходит, как всё устроено, но толко в рамках разумного. Незачем бухгалтеру знать особенности сетевых протоколов, но вот структуру каталогов где что лежит и как сохранить правильно в новый файл - стоит.
Со временем удавалось многих так или иначе обучить. Проблем становилось меньше, все всё успевали, у меня появлялось время на развитие. Те же, кто упорно не хотел понимать даже азы, зачастую куда-то отваливались.
---
Что-же происходит сейчас? Вместо того чтобы изучать технологии и принципы информационного общества, да и просто изучать что-либо для самосовершенствования, большинство с радостью просто перекладывают задачи на ИИ. Вроде и дело движется и все счастливые, но развитие замедляется. При этом все знания ИИ построены на существующих данных, результатах работы людей. Чем больше результатов получены с помощью ИИ тем больше сами ИИ обучаются на "своих" трудах. Количество трудов произведенных без использования ИИ постепенно уменьшается. Накапливаются какие-то ошибки, которые люди не отлавливают в момент использования и по сути дела выплескивают в свободный доступ чтобы ИИ принял это как проверенную информацию.
Так Уроборос пожирает себя. Люди же, в своём стремлении к комфорту, способствуют этому изо всех сил. Это очень похоже на ситуацию с офисом бухгалтеров и клерков. Зачем понимать даже минимум если можно "пнуть" сисадмина? Так же и с ИИ. Если что-то не понятно - спрашиваешь в чатике искуственного помощника и получаешь ответ. Только этот помощник не стремится объяснит все аспекты. В него не заложена функция обучения, даже с целью чтобы его меньше беспокоили. И обучается он на чем-то не всегда проверенном, не оцененном критически. Не ясно к чему это может привести.
---
Что-же можно предложить для улучшения ситуации? Может ИИ стоит ограничить не только морально-этически, как это сделано сейчас (и то от части). Возможно стоит ограничить обучение чтобы ИИ как-либо понимали что на вход подается материал который уже был "переварен". Также не стоит так фанатично делать доступным их функционал для всех, не упрощать а наоборот предъявлять какие-то требования к базовым знаниям человека прежде чем он сможет использовать ИИ в своей работе. В ответы стоит добавлять больше обучения, а возможно добавить ИИ "лень" чтобы он старался ответить так чтобы больше к нему не подходили с подобными вопросами.
К сожалению даже эти предложения не возможно донести, а тем более обсудить с создателями. Их основная задача - зарабатывать на новой технологии, пока она приносит максимальные прибыли. Какие-либо ограничения не будут вводиться, если не требуются для получения выгоды. Поэтому я и решил написать этот пост-ответ, чтобы по возможности обратить внимание простых пользователей ИИ на возможные проблемы.
Не стоит использовать ИИ без критической оценки результатов. ИИ как инструмент помогает быстрее проанализировать много источников и сделать выводы, но они всегда должны быть Вам понятны. Если, после того как задали вопрос ИИ, Вы получили ответ без пояснений логики, задайте уточняющие вопросы, проверьте правильность и логичность, обратитесь к известным Вам фактам. Только после этого стоит применять полученные результаты в работе или публиковать их.
Спасибо тем, кто дочитал. Надеюсь Вы сделаете выводы.
