Эта история была изначально опубликована на Social Media Today. Чтобы получать ежедневные новости и аналитические материалы, подпишитесь на нашу бесплатную ежедневную рассылку Social Media Today.
Да, это, похоже, станет проблемой в будущем, хотя, возможно, это считается ценой прогресса?
На прошлой неделе организация Common Sense Media опубликовала новый отчет, в котором говорится, что 72% подростков в США уже использовали AI-компаньонов, и многие из них теперь регулярно общаются с выбранными виртуальными друзьями.
Исследование основано на опросе 1 060 подростков, поэтому оно задумано как индикативная мера, а не как окончательный обзор использования ИИ. Но тенденции действительно указывают на некоторые потенциально значительные проблемы, особенно поскольку платформы сейчас стремятся внедрить ИИ-ботов, которые также могут выступать в качестве романтических партнеров в какой-то степени.
Прежде всего, как было отмечено, данные показывают, что 72% подростков пробовали ИИ-компаньонов, и 52% из них стали регулярными пользователями этих ботов.
Стоит отметить, что ИИ-боты находятся далеко от того уровня, на котором они, вероятно, окажутся через несколько лет, поскольку технологические компании инвестируют миллиарды долларов в развитие своих ИИ-ботов, чтобы сделать их более понятными, более разговорными и лучшими эмуляторами взаимодействия с реальными людьми.
Но это не так. Это боты, которые реагируют на разговорные подсказки на основе контекста, который у них есть, и на основе системы весов, которую каждая компания использует в своем бэкэнде. Поэтому они не являются точной симуляцией реального человеческого взаимодействия, и никогда не будут таковыми, из-за реальной ментальной и физической связи, обеспечиваемой через это.
Тем не менее, мы движемся к будущему, где это станет более жизнеспособной заменой настоящему гражданскому участию. Но что, если бот изменится, заразится вредоносным кодом, будет взломан, отключен и т. д.?
Широкие последствия возможности и поощрения такой связи пока не известны, с точки зрения воздействия на психическое здоровье, которое может возникнуть в результате.
Но мы все равно движемся вперед, поскольку данные показывают, что 33% подростков уже используют ИИ-компаньонов для социального взаимодействия и отношений.
Конечно, часть этого может оказаться очень полезной в различных контекстах.
Например, возможность задавать вопросы, которые вам может быть неудобно говорить другому человеку, может быть большой помощью, при этом данные опроса показывают, что 18% пользователей AI-компаньонов обращаются к инструментам за советом.
Непредвзятое взаимодействие имеет явные преимущества, в то время как 39% пользователей ИИ-компаньонов также перенесли социальные навыки, которые они практиковали с ботами, в реальные жизненные ситуации (, причем 45% женщин сделали это по сравнению с 34% мужчин-пользователей ).
История продолжается. Таким образом, определенно будут преимущества. Но, как и в случае с социальными медиа, вопрос заключается в том, перевесит ли эти плюсы потенциальные минусы избыточной зависимости от не-человеческих сущностей для традиционного человеческого взаимодействия.
31% опрошенных участников указали, что они находят разговоры с AI-компаньонами столь же удовлетворительными или даже более удовлетворительными, чем с реальными друзьями, в то время как 33% выбрали AI вместо людей для определенных разговоров.
Как было отмечено, тот факт, что эти боты могут быть настроены на ответы на основе идеологических линий, вызывает беспокойство в этом отношении, как и тенденция инструментов ИИ «галлюцинировать» и делать неверные предположения в своих ответах, которые они затем утверждают как факт. Это может привести молодежь по неправильному пути, что может привести к потенциальному вреду, в то время как переход к ИИ-компаньонам в качестве романтических партнеров открывает еще больше вопросов о будущем отношений.
Кажется, что это станет более распространенным использованием инструментов ИИ, что наши начинающие отношения с человеческими симуляторами приведут к тому, что всё больше людей будут стремиться поднять эти понимающие, непредвзятые отношения на новый уровень. Настоящие люди никогда не поймут вас так, как это может сделать ваш алгоритмически настроенный ИИ-бот, и это на самом деле может усугубить эпидемию одиночества, а не решить её, как некоторые предполагали.
И если молодые люди учат эти новые модели взаимоотношений в свои формирующие годы, что это значит для их будущего представления о человеческом взаимодействии, если они действительно чувствуют в этом необходимость?
И им это действительно нужно. Столетия исследований подчеркивают важность человеческой связи и сообщества, а также необходимость наличия реальных отношений для формирования вашего понимания и перспективы. ИИ-боты могут имитировать некоторые из этих аспектов, но фактическое физическое соединение также важно, как и человеческая близость, участие в реальном мире и т.д.
Мы постепенно уходим от этого со временем, и вы могли бы утверждать, что растущее количество случаев серьезной одиночества, которое Всемирная организация здравоохранения объявила «острой глобальной угрозой здоровью», уже оказывает значительное влияние на здоровье.
Действительно, исследования показали, что одиночество связано с 50% увеличением риска развития деменции и на 30% увеличением риска возникновения коронарной болезни сердца или инсульта.
Помогут ли в этом ИИ-боты? А если нет, то почему мы так активно их продвигаем? Почему каждое приложение теперь пытается заставить вас общаться с этими нереальными сущностями и делиться своими самыми сокровенными секретами с их развивающимися ИИ-инструментами?
Это более выгодно для общества или для крупных технологических платформ, которые создают эти модели ИИ?
Если вы склоняетесь к последнему выводу, то прогресс, по-видимому, становится более важным акцентом, как это было с социальными сетями до этого. Поставщики ИИ уже настаивают на том, чтобы Европейский Союз ослабил свои ограничения на развитие ИИ, в то время как надвигающаяся гонка по развитию ИИ между государствами также усиливает давление на все правительства, чтобы смягчить контроль в интересах ускорения инноваций.
Но должны ли мы чувствовать себя воодушевленными стремлением Meta к "суперинтеллекту", или же обеспокоенными тем, как быстро эти инструменты становятся обычными в элементах с серьезным потенциальным воздействием?
Это не означает, что развитие ИИ само по себе плохо, и существует множество примеров использования последних инструментов ИИ, которые действительно увеличат эффективность, инновации, возможности и т. д.
Но, похоже, есть некоторые области, в которых нам следует, вероятно, действовать более осторожно, из-за рисков чрезмерной зависимости и последствий этого в широком масштабе.
Похоже, этого не произойдет, но через десять лет мы будем оценивать это с совершенно другой точки зрения.
Вы можете ознакомиться с отчетом Common Sense Media «Разговор, доверие и компромиссы» здесь.
Посмотреть комментарии
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Новое исследование показывает, что подростки всё больше полагаются на ИИ-чат-ботов для социального взаимодействия
Эта история была изначально опубликована на Social Media Today. Чтобы получать ежедневные новости и аналитические материалы, подпишитесь на нашу бесплатную ежедневную рассылку Social Media Today.
Да, это, похоже, станет проблемой в будущем, хотя, возможно, это считается ценой прогресса?
На прошлой неделе организация Common Sense Media опубликовала новый отчет, в котором говорится, что 72% подростков в США уже использовали AI-компаньонов, и многие из них теперь регулярно общаются с выбранными виртуальными друзьями.
Исследование основано на опросе 1 060 подростков, поэтому оно задумано как индикативная мера, а не как окончательный обзор использования ИИ. Но тенденции действительно указывают на некоторые потенциально значительные проблемы, особенно поскольку платформы сейчас стремятся внедрить ИИ-ботов, которые также могут выступать в качестве романтических партнеров в какой-то степени.
Прежде всего, как было отмечено, данные показывают, что 72% подростков пробовали ИИ-компаньонов, и 52% из них стали регулярными пользователями этих ботов.
Стоит отметить, что ИИ-боты находятся далеко от того уровня, на котором они, вероятно, окажутся через несколько лет, поскольку технологические компании инвестируют миллиарды долларов в развитие своих ИИ-ботов, чтобы сделать их более понятными, более разговорными и лучшими эмуляторами взаимодействия с реальными людьми.
Но это не так. Это боты, которые реагируют на разговорные подсказки на основе контекста, который у них есть, и на основе системы весов, которую каждая компания использует в своем бэкэнде. Поэтому они не являются точной симуляцией реального человеческого взаимодействия, и никогда не будут таковыми, из-за реальной ментальной и физической связи, обеспечиваемой через это.
Тем не менее, мы движемся к будущему, где это станет более жизнеспособной заменой настоящему гражданскому участию. Но что, если бот изменится, заразится вредоносным кодом, будет взломан, отключен и т. д.?
Широкие последствия возможности и поощрения такой связи пока не известны, с точки зрения воздействия на психическое здоровье, которое может возникнуть в результате.
Но мы все равно движемся вперед, поскольку данные показывают, что 33% подростков уже используют ИИ-компаньонов для социального взаимодействия и отношений.
Конечно, часть этого может оказаться очень полезной в различных контекстах.
Например, возможность задавать вопросы, которые вам может быть неудобно говорить другому человеку, может быть большой помощью, при этом данные опроса показывают, что 18% пользователей AI-компаньонов обращаются к инструментам за советом.
Непредвзятое взаимодействие имеет явные преимущества, в то время как 39% пользователей ИИ-компаньонов также перенесли социальные навыки, которые они практиковали с ботами, в реальные жизненные ситуации (, причем 45% женщин сделали это по сравнению с 34% мужчин-пользователей ).
История продолжается. Таким образом, определенно будут преимущества. Но, как и в случае с социальными медиа, вопрос заключается в том, перевесит ли эти плюсы потенциальные минусы избыточной зависимости от не-человеческих сущностей для традиционного человеческого взаимодействия.
31% опрошенных участников указали, что они находят разговоры с AI-компаньонами столь же удовлетворительными или даже более удовлетворительными, чем с реальными друзьями, в то время как 33% выбрали AI вместо людей для определенных разговоров.
Как было отмечено, тот факт, что эти боты могут быть настроены на ответы на основе идеологических линий, вызывает беспокойство в этом отношении, как и тенденция инструментов ИИ «галлюцинировать» и делать неверные предположения в своих ответах, которые они затем утверждают как факт. Это может привести молодежь по неправильному пути, что может привести к потенциальному вреду, в то время как переход к ИИ-компаньонам в качестве романтических партнеров открывает еще больше вопросов о будущем отношений.
Кажется, что это станет более распространенным использованием инструментов ИИ, что наши начинающие отношения с человеческими симуляторами приведут к тому, что всё больше людей будут стремиться поднять эти понимающие, непредвзятые отношения на новый уровень. Настоящие люди никогда не поймут вас так, как это может сделать ваш алгоритмически настроенный ИИ-бот, и это на самом деле может усугубить эпидемию одиночества, а не решить её, как некоторые предполагали.
И если молодые люди учат эти новые модели взаимоотношений в свои формирующие годы, что это значит для их будущего представления о человеческом взаимодействии, если они действительно чувствуют в этом необходимость?
И им это действительно нужно. Столетия исследований подчеркивают важность человеческой связи и сообщества, а также необходимость наличия реальных отношений для формирования вашего понимания и перспективы. ИИ-боты могут имитировать некоторые из этих аспектов, но фактическое физическое соединение также важно, как и человеческая близость, участие в реальном мире и т.д.
Мы постепенно уходим от этого со временем, и вы могли бы утверждать, что растущее количество случаев серьезной одиночества, которое Всемирная организация здравоохранения объявила «острой глобальной угрозой здоровью», уже оказывает значительное влияние на здоровье.
Действительно, исследования показали, что одиночество связано с 50% увеличением риска развития деменции и на 30% увеличением риска возникновения коронарной болезни сердца или инсульта.
Помогут ли в этом ИИ-боты? А если нет, то почему мы так активно их продвигаем? Почему каждое приложение теперь пытается заставить вас общаться с этими нереальными сущностями и делиться своими самыми сокровенными секретами с их развивающимися ИИ-инструментами?
Это более выгодно для общества или для крупных технологических платформ, которые создают эти модели ИИ?
Если вы склоняетесь к последнему выводу, то прогресс, по-видимому, становится более важным акцентом, как это было с социальными сетями до этого. Поставщики ИИ уже настаивают на том, чтобы Европейский Союз ослабил свои ограничения на развитие ИИ, в то время как надвигающаяся гонка по развитию ИИ между государствами также усиливает давление на все правительства, чтобы смягчить контроль в интересах ускорения инноваций.
Но должны ли мы чувствовать себя воодушевленными стремлением Meta к "суперинтеллекту", или же обеспокоенными тем, как быстро эти инструменты становятся обычными в элементах с серьезным потенциальным воздействием?
Это не означает, что развитие ИИ само по себе плохо, и существует множество примеров использования последних инструментов ИИ, которые действительно увеличат эффективность, инновации, возможности и т. д.
Но, похоже, есть некоторые области, в которых нам следует, вероятно, действовать более осторожно, из-за рисков чрезмерной зависимости и последствий этого в широком масштабе.
Похоже, этого не произойдет, но через десять лет мы будем оценивать это с совершенно другой точки зрения.
Вы можете ознакомиться с отчетом Common Sense Media «Разговор, доверие и компромиссы» здесь.
Посмотреть комментарии