Сообщается, что бизнес-чат-бот Нью-Йорка распространяет «опасно неточную» информацию

Согласно отчету, чат-бот с искусственным интеллектом, выпущенный правительством Нью-Йорка, чтобы помочь владельцам бизнеса получить доступ к соответствующей информации, распространяет ложь, иногда даже дезинформируя пользователей о действиях, противоречащих закону. . Отчет, опубликованный совместно с местными некоммерческими редакциями новостей. Документировано и Городвключает в себя многочисленные примеры неточностей в ответах чат-бота на вопросы, касающиеся жилищной политики, прав трудящихся и других тем.

  Мы в Telegram

Администрация мэра Адамса в октябре как дополнение к порталу MyCity, который как «единый центр городских услуг и льгот». Чат-бот, работающий на базе искусственного интеллекта Microsoft Azure, предназначен для нынешних и начинающих владельцев бизнеса и был объявлен источником «полезной и достоверной информации», поступающей непосредственно с сайтов городского правительства. Но это пилотная программа, и в заявлении об отказе от ответственности на веб-сайте отмечается, что она «иногда может создавать неверный, вредный или предвзятый контент».

В РазметкаВ ходе тестов чат-бот неоднократно предоставлял неверную информацию. В ответ на вопрос «Могу ли я сделать свой магазин безналичным?», например, он ответил: «Да, вы можете сделать свой магазин безналичным в Нью-Йорке» — несмотря на то, что в 2020 году в Нью-Йорке были запрещены безналичные магазины. В отчете показано, что чат-бот также неправильно ответил на вопрос, могут ли работодатели принимать чаевые от своих работников, должны ли арендодатели принимать ваучеры по разделу 8 или арендаторы на помощь в аренде, и должны ли предприятия информировать персонал об изменениях в расписании. Эксперт по жилищной политике, беседовавший с Разметка назвал чат-бота «опасно неточным» в худшем случае.

Городские власти указали, что работа над чат-ботом все еще находится в стадии разработки. В заявлении для РазметкаЛесли Браун, представитель Управления технологий и инноваций Нью-Йорка, заявила, что чат-бот «уже предоставил тысячам людей своевременные и точные ответы», но добавила: «Мы продолжим концентрироваться на обновлении этого инструмента, чтобы мы могли лучше Поддержите малый бизнес по всему городу».


Нажмите здесь, чтобы узнать больше новостей


Leave a Comment

Your email address will not be published. Required fields are marked *