Я всегда считал AI великой силой. И мне очень...

Я всегда считал AI великой силой. И мне очень нравится мысль, что AI усиливает человека. Если ты хороший инженер - станешь инженером, который успевает за день сделать недельную работу. Если врач - быстрее разберёшься в сложном случае. Если писатель - будешь меньше воевать с пустым листом. Красота

А потом я вдруг понял одну неприятную вещь. AI ведь никого не проверяет на профпригодность Он одинаково добросовестно помогает и умному, и тому самому человеку, который однажды починил кран, а теперь считает себя инженером-гидротехником международного класса

Получается удивительный эффект. Компетентность он усиливает. Но некомпетентность усиливает ничуть не хуже. Причём последняя растёт даже веселее. Потому что умный человек постоянно сомневается. Проверяет. Читает. Спрашивает

А не очень компетентный уже на третьем ответе AI понимает, что теперь знает вообще всё Получается эффект Даннинга-Крюгера на стероидах

Раньше такой эксперт заходил на форум и писал: - Мне кажется, я понял, как устроена Вселенная. Ему отвечали: - Нет И на этом история заканчивалась

Теперь всё иначе. Теперь он приходит с исследованием на двадцать страниц Там введение. Сравнительная таблица. Диаграммы. Формулы. Заключение. И список литературы длиннее, чем мои два диплома Правда, всё это он не понял примерно одинаково

И если над историей от таких товарищей о том, что антибиотики перестают работать, потому что бактерии заранее читают медицинские статьи и успевают подготовиться, ещё можно посмеяться, то история, где AI "окончательно доказал", что Земля плоская, уже не кажется такой смешной из-за растущего количества уверенных в этом адептов, которые уже несут свои "знания" в массы

Самое несправедливое во всей этой истории, что AI вообще ни в чём не виноват. Он как микрофон. Если к нему подходит Лучано Паваротти - получается опера. Если подходит гусь...

...получается очень убедительный, прекрасно структурированный, со сносками оформленный гусь. И самое тревожное, что этот гусь уже умеет делать презентации. С графиками. С прогнозом до 2040 года. С финансовой моделью. И, кажется, уже вполне готов заседать в экспертном совете, консультировать министров, писать законопроекты и уверенно объяснять остальным гусям, как сделать жизнь человечества значительно лучше