Аугментированное и критическое мышление

Зеро Эш

Исследование критического мышления, генеративного ИИ, возможностей и рисков аугментации с персональным интеллектом. Разбираться в ловушках мышления, и, теперь, не только собственных, но и аугментированного мышления не только увлекательная но критически важная задача. В данном исследовании рассматриваются множество тем в контексте критического мышления, такие как здравый смысл, творческое мышление, инженерия промптов, цепочки рассуждений, аугментация мышления и т. п. + юмор, конечно.

© Зеро Эш, 2023

ISBN 978-5-0060-8634-0

Создано в интеллектуальной издательской системе Ridero

Аугментированное и критическое мышление

Исследование критического мышления, генеративного ИИ, возможностей и рисков аугментации с персональным интеллектом

(c) 2023 0ash

Случился генеративный ИИ, появились новые инстументы помогающие решать любые задачи. Аугментация или расширение возможностей, но, как обычно, есть и существенные риски.

Критическое мышление — это то, на что можно опереться и не потеряться в этом потоке изменений, не остаться за бортом прогресса и эволюции, не угодить в возможные ловушки и проблемы. Критическое мышление можно и нужно постоянно тренировать чтобы соответсвовать вызовам своего времени. Конечно, про критическое мышление уже есть множество книг, курсов и т. п. Но, несмотря на то, что материала созданно очень много, актуальность — важнейший критерий. Мышление (thinking) — вечная тема, которая требует постоянного изучения, развития, критического взгляда и нового переосмысления. Поэтому обновление подходов и знаний в контексте стремительного развития технологий, и в особенности генеративного и персонального ИИ не только актуально но и полезно. Текст разбит на небольшие блоки (пару минунт на чтение), которые можно изучать или пропускать в любой последовательности. Самое ценное — это критические комментарии и юмор конечно, без него никак, он играет свою, немаловажную роль в критическом мышлении. Энджой! И, давай уже мысли критически, иначе будут мыслить за тебя.

«Все, что мы слышим, — это мнение, а не факт. Все, что мы видим, — это точка зрения, а не истина» — Марк Аврелий. Остается только добавить, что с появлением генеративного ИИ, актуальность этого мнения только возрастает.

«Люди говорят одно, думают другое, делают третье» — существует такая, довольно интересная и вполне правдоподобная оценка человеческого мышления.

«Искусственный интеллект используют те кому не хватает естественного» — шутка про тех, кто не идет в ногу с прогрессом.

«У людей, условно можно считать есть два типа мышления: одно быстрое — ассоциативное основанное на мгновенном распознавании паттернов (опыте), другое медленное — логическое (требует рассуждений). На практике они сложнопостижимым образом переплетаются и взаимодействуют». Похоже у ИИ аналогичная ситуация: базовые языковые/мультимодальные модели (больше ассоциативные) + цепочки рассуждений (chan of thoughs/reasoning) на базе этих моделей.

«Для избавление от галлюцинаций больших языковых моделей нужна инженерия промптов» — похоже для людей тоже актуально.

«Люди, чаще всего, окружают себя теми кто подтверждает их когнитивные искажения» — только немногие способны работать с разными мнениями и взглядами для преодоления искажений.

«От персонального компьютера (PC) к персональному интеллекту (PI)» — страшно представить, что может быть дальше.

«Вычислительное мышление» — это как калькулятор только для мыслей, где вместо цифр — текст на естественном языке (и, да, там тоже текст переводится в числа — ембеддинги).

«Еще в древние времена мыслители пытались строить логические рассуждения, строить выводы одного из другого, но это приводило к циклам в рассуждениях. Тогда подход был изменен — определялось базовое множество аксиом или фактов не требующих доказательств. И, уже на базе этих аксиом можно было сторить логические рассуждения и доказательства других утверждений.» — в этом подходе есть существенная уязвимость, возможно изменить какой-нибудь «факт» в своих интересах чтобы все последующие выводы также были такие как нужно. При довольно сложных конструкциях обнаружить такие искажения довольно трудоемко, и даже если это сделать, аргументированно оспорить «факт» невозможно (ведь факты или принимаются на веру или нет, они не доказываются).

«Современная наука все больше виртуализируется. Делать новые открытия в наблюдаемой вселенной все сложнее и сложнее, на сегодняшний день практически невозможно даже при наличии супер сложного оборудования, такого как БАК. И, бинго, почему бы не придумывать виртуальные объекты, например виртуальные частицы, поля, все, что угодно.» — виртуализация науки объективный процесс, его не остановить, можно только урегулировать и как часто говорят — «не можешь остановть — возглавь». По сути это научная фантастика, и в современных условиях уже сложно понять где проходит эта грань. Для современных исследователей возможно регулирование через явное определение или маркировку того, что их работа содержит в себе такую «виртуализацию».

«Даже самые великие умы человечества не смогли построить полностью обоснованную и логически строгую картину мира. Все существующие теории лишь попытки это сделать.» — объективной реальности не существует, всегда есть лишь некоторые модели реальности основанные на аксиомах без доказательств. И другой подход пока не придуман. Могут ли современные технологии генеративного ИИ помочь? Сложный вопрос, пока, наверное нет, так как их вывод полностью зависит от исходных датасетов (текстов, картинок и т.п.). Вот когда новые ИИ-системы получат прямые возможности изучать наблюдаемую вселенную, ставить эксперименты, проверять гипотезы и т.д., тогда да, прорыв в познании возможен.

— — —