MetaSapiens

OpenAI, компания по исследованию ИИ (ChatGPT), опубликовала сообщение в блоге, которое даёт представление о том, как компания будет справляться с задачами по созданию и управлению AGI (Artificial General Intelligence) - системами искусственного интеллекта, способными выполнять любые задачи, которые под силу человеку, или даже лучше.

В сообщении OpenAI сообщает, что с AGI могут возникнуть потенциальные риски и неопределенности, такие как неправильное использование, несчастные случаи и даже разрушение общества. Может даже возникнуть проблема "Терминатора". Для решения этой проблемы OpenAI предложила ряд законов и принципов, которыми она будет руководствоваться в своей работе над AGI:

• Развертывание и изучение менее мощных систем ИИ в реальном мире для получения опыта и обратной связи;

• Демократизация доступа к ИИ и управление им;

• Обеспечение того, чтобы системы ИИ действовали в соответствии с человеческими ценностями и предпочтениями;

• Укрепление институтов мира для согласования широких границ использования и регулирования ИИ;

• Обмен информацией о прогрессе ИИ с общественностью и обращение к различным заинтересованным сторонам с просьбой внести свой вклад.

При этом OpenAI также предупреждает о том, что все непредсказуемо, и даже у самой компании нет всех ответов и решений потенциальных проблем в будущем, особенно после того, как AGI станет мейнстримом. Компания заявляет, что в долгосрочной перспективе разговор о том, как управлять этими системами, как справедливо распределить их преимущества и как справедливо разделить доступ, просто необходим.

Больше новостей про искусственный интеллект

Сэм Альтман , глава компании OpenAI, поделился своим мнением о том, как поспешное распространение ИИ-инструментов может быть опасным и контрпродуктивным.

На своей странице в Twitter Альтман выразил опасение, что люди находятся недалеко от момента создания «потенциально страшных» ИИ-инструментов, и призвал регулирующие органы серьёзно подойти к решению данного вопроса. По мнению главы OpenAI, распространение различных ИИ-технологий в мире будет проходить очень быстро. Однако «сверхбыстрое» принятие этих инструментов может оказаться весьма пугающим опытом для всех. По словам Альтмана, обществу необходимо время для привыкания к чему-то столь значительному и большому. Он также выделил некоторые проблемы ИИ, требующие решения перед началом их массового использования.

Одним из важнейших вопросов, отмеченных создателем ChatGPT, является проблема развития предвзятости ИИ к чему-либо или против чего-либо. Пользователи социальных сетей недавно подняли вопрос о предвзятости чат-бота, поделившись скриншотами его ответов, которые могут восприниматься как одобрение ChatGPT определённых политических идеологий.

«Станут более актуальными проблемы предвзятости и люди будут недовольны результатом общения с чат-ботом, даже если сами будут понимать, что на самом деле происходит в реальности. Мы не хотим, чтобы ChatGPT выступал за ту или иную политику. Мы работаем над решением этой проблемы», — сообщил Альтман.

Больше новостей про искусственный интеллект

Он также рассказал о том, что в дальнейшем планирует ограничить время, которое они проводят на платформах, и обращать внимание на то, что именно просматривают. По словам бизнесмена, это влияет на их поведение. А сам он как отец может только соглашаться или не соглашаться с алгоритмами соцсетей и пытаться отвлечь их внимание на что-то более ценное.

Больше новостей про социальные сети

Meta представила Toolformer, языковую модель ИИ, которая способна самостоятельно научиться использовать внешние инструменты: поисковые системы, калькуляторы и календари, без ущерба её базовым возможностям языкового моделирования.

Главным преимуществом Toolformer является его способность использовать API, которые позволяют различным приложениям взаимодействовать друг с другом, часто бесшовным и автоматизированным образом. Более того, в зависимости от задачи Toolformer может самостоятельно «решать», какой инструмент необходимо использовать в данном случае и как его применить. Он также интегрирует результаты, полученные в процессе, в прогнозирование будущих случаев использования инструмента.

Больше новостей про искусственный интеллект

По мнению Илона Маска, уже сегодня стоит беспокоиться о том, что что системы искусственного интеллекта становятся невероятно развитым. «Один из самых больших рисков для будущего цивилизации — это искусственный интеллект», — заявил Маск участникам Всемирного правительственного саммита в Дубае.

По словам Маска, ИИ имеет как положительные, так и отрицательные стороны, большие перспективы и большие возможности. Тем не менее, он подчеркнул, что развитию ИИ сопутствует большая опасность. В то время как автомобили, самолёты и медицинская сфера должны соответствовать стандартам безопасности и эти сферы регулируются, для сферы ИИ пока нет никаких правил, позволяющих держать развитие подобных систем под контролем.

Больше новостей про искусственный интеллект

Microsoft объявила об интеграции ИИ-бота ChatGPT в свои поисковик Bing и браузер Edge и уже на следующей день после мероприятия количество загрузок приложения Bing для iOS увеличилось в несколько раз.

В App Store в США Bing поднялся на 12 место в рейтинге самых популярных бесплатных приложений для iPhone, а браузер Edge занял третью строчку рейтинга в категории «Утилиты». По оценкам исследовательской компании DataAi, по всему миру количество новых загрузок приложения Bing подскочило в 10 раз. Это говорит о значительном интересе к ИИ-функциям со стороны потребителей и их готовности начать использовать новый поисковик или браузер, чтобы получить доступ к этим инструментам.

Больше новостей про искусственный интеллект