Webiomed

BCG порекомендовали очень интересное выступление на TED. Мысль спикера, который судя по примерам, имеет реальный и разноплановый опыт разработки различных ИИ-моделей для самых разных отраслей, такова: принятие решений человеком – это долго, дорого и сложно. Но не стоит пока испытывать большую уверенность в том, что ИИ является непредвзятым и лучшим аналитиком, чем человек. Да, человек подвержен усталости, эмоциям и другим влияющим на решение аспектам. Но и решения ИИ тоже предвзяты – их предвзятость исходит из тех исторических данных, на которых он учился. А так как все очень быстро меняется, его решения могут быть не просто неправильными – а несправедливыми, дискриминационными или даже опасными (интересные примеры про прогноз сердечного приступа у пациентов с новым лекарством, про год работы над неправильно работающим ИИ для индустрии моды и про неудачи в работе модели для страховой компании). Более того, полученная ИИ-модель так или иначе содержит в себе разные правила, по которым она принимает решение – и никто не может понять этих правил и причины, по которым они работают неправильно. В итоге, попытки постоянно дообучить модель делать корректные прогнозы приводит к тому же самому эффекту, что принятие решений людьми – создание ИИ получается долгим, дорогим и сложным. А отсюда простой вывод – сегодня безусловное доверие людей выводам ИИ пока преждевременно. Спикер считает, что именно работа по формуле «ИИ + человек» - более рациональный подход, т.к. он позволяет снизить ошибки в прогнозах на 50%, но сохранить человечность в широком смысле этого слова и оставить контроль за окончательным решением за людьми. И дает очень красивый совет: «Считается, что данные - это новая нефть, но поверьте мне, человеческие знания тоже имеют значение, потому что это единственная доступная буровая вышка для прокачки нефти, скрытой в данных». Пожалуй, нам всем – кто занимается созданием и внедрением ИИ, стоит задуматься над последствиями того – что мы делаем. По крайней мере в здравоохранении. https://www.ted.com/talks/sylvain_duranton_how_humans_and_ai_can_work_together_to_create_better_businesses

Ted

How humans and AI can work together to create better businesses

Here's a paradox: as companies try to streamline their businesses by using artificial intelligence to make critical decisions, they may inadvertently make themselves less efficient. Business technologist Sylvain Duranton advocates for a "Human plus AI" approach…

114 viewsedited 03:22