Урок 2.8. Понятие Deep Learning и Machine Learning, в чем отличие
Разберем самые распространенные ошибки при работе с нейронными сетями и другими моделями ИИ. Ниже представлен ТОП-5 таких ошибок.
Одной из основных проблем, снижающих эффективность и точность моделей ИИ, является необходимость использования корректной, актуальной и полной информации для их обучения. От провалов не застрахованы компании с большими бюджетами, которые использовали некорректные данные для обучения систем.
Помощник для врачей-онкологов Watson, созданный IBM, в процессе обучения системы использовал не только реальные медицинские данные, но и гипотетические сценарии развития болезни. Это привело к тому, что система порой давала ошибочные и анекдотические рекомендации.
Чат-бот Tay в Twitter (на данный момент - социальная сеть X, запрещена в России), который начал публиковать оскорбительные и расистские сообщения из-за отсутствия очистки данных от нежелательного контента. Технология распознавания лиц Apple, которую обвиняли в расизме после жалоб на проблемы распознавания лиц пользователей из Азии. При разработке моделей ИИ необходимо предельно внимательно подходить к процессу, как с технической так и этической точки зрения, для минимизации возможных недостатков.
Несмотря на то, что ИИ-системы могут принести значительную пользу и выгоду, оптимизируя и ускоряя бизнес-процессы, никто не застрахован от ошибочных выводов или непредсказуемых результатов.
Без человеческого контроля ИИ может использовать данные неправомерно и даже нарушать приватность пользователей, что может привести к юридическим проблемам и потере репутации.
К примеру, алгоритм высокочастотной торговли компании Knight Capital Group привел к убыткам в размере $440 млн всего за несколько минут.
А несовершенство ИИ, использованного Boeing при проектировании самолетов, стало причиной двух катастроф Boeing 737 MAX и гибели более 300 человек. В этом случае система автопилота MCAS (Maneuvering Characteristics Augmentation System) автоматически меняла угол атаки самолета, что привело к падению лайнеров.
Социальные сети также столкнулись с критикой из-за недостаточного контроля над алгоритмами, которые усиливали политическую и социальную напряженность.
Использование алгоритмов и методов искусственного интеллекта, которые не соответствуют поставленным целям или нечетко анализируют данные, может привести к искаженным результатам.
Рассмотрим пример компании, занимающейся производством электроники и решившей внедрить ИИ для оптимизации производства и улучшения качества продукции. Их первоначальной целью было ускорение производства и повышение точности сборки. Однако через несколько месяцев использования ИИ-системы компания столкнулась с проблемой: производство ускорилось, но качество продукции ухудшилось. Время от времени возникали дефекты и несоответствия стандартам. Компания начала получать жалобы от клиентов и столкнулась с риском потери репутации.
В такой ситуации можно предпринять следующие действия: вместо того, чтобы фокусироваться только на ускорении производства, в первую очередь следует сосредоточиться на улучшении качества продукции с помощью ИИ-системы. Например, можно использовать более подробные данные о качестве и процессе сборки, внедрить систему мониторинга качества на каждом этапе производства, чтобы автоматически выявлять дефекты и несоответствия. Также стоит привлечь специалистов в области качества и производства, которые помогут настроить ИИ-систему для более точной и надежной работы, а также более внимательно анализировать данные и выявлять закономерности между определенными параметрами производства и качеством продукции.
Благодаря такому подходу удастся сохранить баланс между скоростью производства и качеством продукции, пересмотрев цели и грамотно настроив ИИ-систему.
Персонализация позволяет бизнесу создавать уникальные и актуальные предложения для каждого пользователя, что делает его опыт работы с компанией более приятным и полезным, особенно в сферах розничной торговли, медиа и развлечений, где конкуренция высока.
Рассмотрим пример компании, занимающейся онлайн-розничной торговлей и использующей ИИ-систему для улучшения персонализации предложений для клиентов. Однако после внедрения системы было замечено снижение уровня персонализации, что привело к недовольству клиентов.
Чтобы решить эту проблему, можно предпринять следующие действия:
Благодаря этим мерам удастся повысить уровень персонализации предложений для клиентов и улучшить их опыт работы с компанией.
Несмотря на высокий уровень развития ИИ-систем, ключевую роль в их работе все еще играет человек. Именно он может неправильно интерпретировать данные, полученные в результате работы алгоритмов. Это серьезная проблема, которая может привести к ошибочным решениям и действиям, наносящим ущерб компании, начиная от маркетинговых коммуникаций и заканчивая управлением производством и финансами. Неверные выводы могут быть сделаны из-за ошибок в анализе и восприятии информации, что, в свою очередь, может быть вызвано предвзятыми взглядами или недостаточными знаниями о предметной области.
Например, Amazon использовал искусственный интеллект для анализа данных о кандидатах на вакансии и принятия решения о том, кого пригласить на собеседование. Однако система начала дискриминировать женщин, предпочитая мужчин. Чтобы избежать неправильной интерпретации данных ИИ, компании должны инвестировать в обучение персонала, разрабатывать процессы проверки и верификации результатов, а также прозрачно предоставлять информацию о том, какие данные были использованы и как были получены результаты.
