Оглавление

Аугментированное и критическое мышление

Исследование критического мышления, генеративного ИИ, возможностей и рисков аугментации с персональным интеллектом

(c) 2023 0ash

Случился генеративный ИИ, появились новые инстументы помогающие решать любые задачи. Аугментация или расширение возможностей, но, как обычно, есть и существенные риски.

Критическое мышление — это то, на что можно опереться и не потеряться в этом потоке изменений, не остаться за бортом прогресса и эволюции, не угодить в возможные ловушки и проблемы. Критическое мышление можно и нужно постоянно тренировать чтобы соответсвовать вызовам своего времени. Конечно, про критическое мышление уже есть множество книг, курсов и т. п. Но, несмотря на то, что материала созданно очень много, актуальность — важнейший критерий. Мышление (thinking) — вечная тема, которая требует постоянного изучения, развития, критического взгляда и нового переосмысления. Поэтому обновление подходов и знаний в контексте стремительного развития технологий, и в особенности генеративного и персонального ИИ не только актуально но и полезно. Текст разбит на небольшие блоки (пару минунт на чтение), которые можно изучать или пропускать в любой последовательности. Самое ценное — это критические комментарии и юмор конечно, без него никак, он играет свою, немаловажную роль в критическом мышлении. Энджой! И, давай уже мысли критически, иначе будут мыслить за тебя.

«Все, что мы слышим, — это мнение, а не факт. Все, что мы видим, — это точка зрения, а не истина» — Марк Аврелий. Остается только добавить, что с появлением генеративного ИИ, актуальность этого мнения только возрастает.

«Люди говорят одно, думают другое, делают третье» — существует такая, довольно интересная и вполне правдоподобная оценка человеческого мышления.

«Искусственный интеллект используют те кому не хватает естественного» — шутка про тех, кто не идет в ногу с прогрессом.

«У людей, условно можно считать есть два типа мышления: одно быстрое — ассоциативное основанное на мгновенном распознавании паттернов (опыте), другое медленное — логическое (требует рассуждений). На практике они сложнопостижимым образом переплетаются и взаимодействуют». Похоже у ИИ аналогичная ситуация: базовые языковые/мультимодальные модели (больше ассоциативные) + цепочки рассуждений (chan of thoughs/reasoning) на базе этих моделей.

«Для избавление от галлюцинаций больших языковых моделей нужна инженерия промптов» — похоже для людей тоже актуально.

«Люди, чаще всего, окружают себя теми кто подтверждает их когнитивные искажения» — только немногие способны работать с разными мнениями и взглядами для преодоления искажений.

«От персонального компьютера (PC) к персональному интеллекту (PI)» — страшно представить, что может быть дальше.

«Вычислительное мышление» — это как калькулятор только для мыслей, где вместо цифр — текст на естественном языке (и, да, там тоже текст переводится в числа — ембеддинги).

«Еще в древние времена мыслители пытались строить логические рассуждения, строить выводы одного из другого, но это приводило к циклам в рассуждениях. Тогда подход был изменен — определялось базовое множество аксиом или фактов не требующих доказательств. И, уже на базе этих аксиом можно было сторить логические рассуждения и доказательства других утверждений.» — в этом подходе есть существенная уязвимость, возможно изменить какой-нибудь «факт» в своих интересах чтобы все последующие выводы также были такие как нужно. При довольно сложных конструкциях обнаружить такие искажения довольно трудоемко, и даже если это сделать, аргументированно оспорить «факт» невозможно (ведь факты или принимаются на веру или нет, они не доказываются).

«Современная наука все больше виртуализируется. Делать новые открытия в наблюдаемой вселенной все сложнее и сложнее, на сегодняшний день практически невозможно даже при наличии супер сложного оборудования, такого как БАК. И, бинго, почему бы не придумывать виртуальные объекты, например виртуальные частицы, поля, все, что угодно.» — виртуализация науки объективный процесс, его не остановить, можно только урегулировать и как часто говорят — «не можешь остановть — возглавь». По сути это научная фантастика, и в современных условиях уже сложно понять где проходит эта грань. Для современных исследователей возможно регулирование через явное определение или маркировку того, что их работа содержит в себе такую «виртуализацию».

«Даже самые великие умы человечества не смогли построить полностью обоснованную и логически строгую картину мира. Все существующие теории лишь попытки это сделать.» — объективной реальности не существует, всегда есть лишь некоторые модели реальности основанные на аксиомах без доказательств. И другой подход пока не придуман. Могут ли современные технологии генеративного ИИ помочь? Сложный вопрос, пока, наверное нет, так как их вывод полностью зависит от исходных датасетов (текстов, картинок и т.п.). Вот когда новые ИИ-системы получат прямые возможности изучать наблюдаемую вселенную, ставить эксперименты, проверять гипотезы и т.д., тогда да, прорыв в познании возможен.

— — —

Критическое мышление и здравый смысл

Мышление на основе здравого смысла и критическое мышление — это два различных когнитивных подхода с различными характеристиками и приложениями.

Мышление, основанное на здравом смысле, относится к использованию повседневных практических знаний и рассуждений, основанных на общепринятых убеждениях, нормах и опыте. Оно опирается на информацию и предположения, которыми обычно делятся в рамках конкретной культуры или сообщества.

Здравый смысл часто используется для принятия быстрых и прямолинейных решений в знакомых повседневных ситуациях. Это зависит от контекста и может не предполагать углубленного анализа или оценки информации.

Мышление, основанное на здравом смысле, как правило, интуитивно и опирается на предположения, которые принимаются без тщательной проверки. Оно основано на традициях и общепринятом мнении.

Ключевые различия между мышлением, основанным на здравом смысле, и критическим мышлением заключаются в их подходе, глубине анализа и обстоятельствах, в которых они наиболее применимы. Здравомыслящее мышление опирается на повседневные знания и используется для принятия рутинных решений, в то время как критическое мышление — это более строгий, основанный на фактических данных процесс, обычно применяемый в сложных или противоречивых ситуациях, когда требуется более глубокий анализ. Оба типа мышления имеют свое место, и баланс между ними может быть ценным в различных аспектах жизни.

Критический комментарий. Руководствуясь здравым смыслом люди могут не мыслить критически и принимать решения в угоду своей выгоде, страхе и т.п., основываясь на общепринятых суждениях, социальном консенсусе и называть это здравым смыслом. К тому же здравый смысл не требует объяснений или доказательств («все так делают» — вот и весь аргумент). Есть шутка. Почему здравый смысл перешел дорогу? Чтобы избежать встречи с тем парнем, который все еще пытался понять, почему курица вообще перешла дорогу!

Критическое мышление и рациональное мышление

Рациональное мышление и критическое мышление — взаимосвязанные понятия, но они имеют явные различия в своей направленности и применении.

Рациональное мышление — это когнитивный процесс, который делает упор на принятии решений и суждений, основанных на разуме, логике и доказательствах. Оно предполагает систематический и объективный анализ информации и ситуаций.

Рациональное мышление направлено на то, чтобы прийти к выводам, которые согласуются с логическими принципами и подкрепляются соответствующими доказательствами. Оно направлено на обеспечение того, чтобы решения и убеждения были обоснованными и свободными от предвзятости.

Рациональное мышление делает акцент на использовании логики и доказательств для получения обоснованных выводов. Оно стремится избежать ошибок и эмоциональных предубеждений при принятии решений.

Рациональное мышление — это специфический аспект критического мышления, фокусирующийся на рациональных, логических и основанных на фактических данных аспектах принятия решений и решения проблем. Критическое мышление, с другой стороны, включает в себя более широкий набор навыков, включая рациональное мышление, позволяющее всесторонне оценивать и выносить суждения о различных аспектах жизни, информации и ситуациях. Критическое мышление делает акцент на более всесторонней оценке фактических данных, контекста и потенциальных предубеждений.

Критический комментарий. Начнем с шутки. Зачем рациональный мыслитель взял калькулятор в художественный музей? Потому что он хотел вычислить истинную ценность абстрактного экспрессионизма! Рациональное мышление — это инструмент, у которого своя область применения, не нужно всецело основываться только на нем.

Критическое мышление и научный метод

Хотя критическое мышление и научный метод связаны между собой и часто используются вместе, это разные понятия.

Критическое мышление — это когнитивный процесс, включающий в себя анализ, оценку и вынесение обоснованных суждений об информации, ситуациях или проблемах.

Критическое мышление — это широкий навык, который может применяться в различных контекстах, а не только в научной деятельности. Оно используется в повседневной жизни, при принятии решений, решении проблем и оценке информации в любых областях и ситуациях.

Критическое мышление включает в себя такие навыки, как рассуждение, анализ, интерпретация, оценка и решение проблем. Оно помогает подвергать сомнению предположения, рассматривать различные точки зрения и принимать взвешенные решения.

Научный метод — это структурированный, систематический подход к научному исследованию, который предполагает проведение наблюдений, выдвижение гипотез, проведение экспериментов и формулирование выводов на основе эмпирических данных.

Научный метод разработан для научных исследований и изучения мира природы. Он универсален и используется для исследования и понимания явлений в физике, химии, биологии, астронимии и т. п.

Научный метод представляет собой определенную последовательность шагов, включающую наблюдение, выдвижение гипотез, проведение экспериментов, сбор данных, анализ и формулирование выводов. При этом особое внимание уделяется использованию контролируемых экспериментов и эмпирических данных для проверки гипотез.

Критическое мышление — это более общий когнитивный навык, применимый к широкому кругу ситуаций, не ограничивающийся научной областью. Оно включает в себя анализ и оценку информации и аргументов. С другой стороны, научный метод — это конкретный процесс, используемый учеными для проведения исследований и более глубокого понимания мира природы. Критическое мышление, безусловно, может быть частью научного процесса, но научный метод имеет более определенный и структурированный подход к исследованию.

Критический комментарий. Снова шутка. Почему ученый расстался со своей девушкой, следуя научному методу? Потому что он обнаружили, что их отношения не воспроизводимы и имеют слишком много неконтролируемых переменных! Воспроизводимость результатов — основа научного метода. Но есть множество областей где точное воспроизведение невозможно, да и не нужно.

Первые принципы и критическое мышление

Мышление по первым принципам (first principles) и критическое мышление — это когнитивные процессы, связанные с рассуждениями, однако они различаются по направленности и подходу.

Мышление на основе первых принципов — это подход к решению проблем и принятию решений, предполагающий разложение сложных задач на наиболее фундаментальные элементы или компоненты. Оно стремится понять предмет или ситуацию с самого начала, отталкиваясь от базовых, самоочевидных истин или аксиом.

Этот подход часто используется в таких областях, как инженерия, физика и предпринимательство, где важно внедрять инновации и решать проблемы путем переоценки предположений. Например, Элон Маск популяризировал использование мышления на основе первых принципов в своих бизнес-предприятиях, таких как разработка ракет SpaceX и электромобилей Tesla.

Мышление на основе первых принципов предполагает разбиение проблем на их основные компоненты, подвергание сомнению существующие предположения и построение решений или инсайтов с нуля. Это особенно эффективно для творческого решения проблем и инноваций.

Основное различие между мышлением на основе первых принципов и критическим мышлением заключается в их направленности и цели. Мышление по первым принципам — это подход к решению проблем, который направлен на инновации путем разбиения сложных проблем на их фундаментальные элементы, в то время как критическое мышление — это более общий когнитивный навык, используемый для оценки информации, аргументов и рассуждений. Критическое мышление может применяться в различных контекстах, включая оценку результатов и выводов, основанных на первых принципах мышления, чтобы убедиться в их логической обоснованности и валидности.

Мышление на основе первых принципов — это мощная основа для инноваций, которая предполагает разбиение сложных проблем на их фундаментальные элементы и последующую реконструкцию решений с нуля, опираясь на базовые принципы и фундаментальные истины, а не на существующие соглашения или допущения. Подвергая сомнению традиционные подходы и отталкиваясь от самых базовых компонентов проблемы, новаторы углубляются в ее суть и разрабатывают креативные, оригинальные решения. Этот метод поощряет свежий взгляд, позволяя людям выявлять возможности, решать сложные задачи и быть пионерами новых изобретений в различных областях, от науки и техники до бизнеса и дизайна.

Критический комментарий. О первых принципах говорят в среде техно предпринимателей, которые пытаются создавать новые решения. Можно сказать мышление на базе первых принципов — фреймворк для инноваций. Идея простая, так как мы знаем, что все системы знаний строятся на базовых блоках из аксиом и блоках знаний полученных из логических выводов. То для поиска инноваций можно отбросить все существующие старые логически полученные блоки и попытаться построить новые. Самые дерзкие могут пересмотреть и аксиомы. Такой пересмотр устоев может приводить к так называемому «дизрапшену», то есть фундаментальному изменению. Но это не просто, задача не просто придумать что-то новое, но и более эффективное чем старое.

Логическое и критическое мышление

Логическое мышление и критическое мышление — взаимосвязанные понятия, но они имеют явные различия в своей направленности и применении.

Логическое мышление предполагает использование формальной и неформальной логики для получения обоснованных выводов или вынесения обоснованных суждений. В первую очередь это касается структуры аргументов и последовательности рассуждений.

Логическое мышление в большей степени сосредоточено на правилах и принципах логики, включая дедуктивное рассуждение (вывод конкретных выводов из общих предпосылок) и индуктивное рассуждение (вывод общих выводов из конкретных наблюдений).

Логическое мышление делает акцент на выявлении и избегании логических ошибок, таких как круговые рассуждения, ложные дихотомии и непоследовательности. Оно направлено на обеспечение того, чтобы аргументы соответствовали обоснованной и последовательной структуре.

Логическое мышление — это подмножество критического мышления, сосредоточенное в первую очередь на структуре аргументов и применении формальной и неформальной логики для обеспечения обоснованных выводов. Критическое мышление — это более всеобъемлющий когнитивный навык, который включает логическое мышление, но также распространяется на другие навыки, которые помогают людям оценивать, анализировать и выносить обоснованные суждения о различных аспектах жизни и информации, включая этические и практические соображения.

Критическое мышление — это многогранный когнитивный навык, который включает в себя несколько компонентов и тесно связан с различными аспектами. При рассмотрении критического мышления важно принимать во внимание следующие взаимосвязанные понятия и факторы: решение проблем, принятие решений, информационная грамотность, аналитические навыки, логические умозаключения, дедуктивные и индуктивно-ориентированные рассуждения, скептицизм, логика и логические ошибки, когнитивные предубеждения, эмоциональный интеллект, этические соображения, метапознание, непредубежденность, коммуникативные навыки, выявление проблем, образование и тренинг, междисциплинарное применение (как много всего!).

Понимание и развитие этих взаимосвязанных аспектов может помочь человеку овладеть критическим мышлением, которое является ценным навыком в самых разных сферах личной, академической и профессиональной деятельности.

Критический комментарий. Шутка про логику. Жена логика посоветовала ему сходить в магазин купить буханку хлеба и если у них будут яйца, он должен будет купить дюжину. Логик сходил в магазин и вернулся домой с 12 буханками хлеба. Его жена спросила, зачем он купил так много буханок хлеба. Логик ответил: «Потому что у них были яйца!». Пользоваться логическим мышлением также нужно критически.