Закреплено
Искусственный интеллект
4 329 постов
•
11 162 подписчика
0 просмотренных постов скрыто
Ошибки ИИ: как их распознать и обезвредить (6 практических советов внутри статьи)
Да, ИИ тоже ошибается. И порой его ошибки могут стоить денег. В этой статье подробно разберём, с какими проблемами чаще всего можно столкнуться в чат-ботах и как их минимизировать.
1. Невозможность сказать "не знаю"
К сожалению, нейросеть может придумать ответ для вас, даже если у неё нет информации. Это связано с тем, что обучение направлено на генерацию ответа, а не на отказ от него. И нейросети предпочитают догадку, чем тишину.
Как минимизировать риски в работе?
Прямо спрашивайте нейросеть: если не знаешь — скажи об этом честно.
И также проверяйте ответы по внешним источникам.
2. Потеря контекста в длинных диалогах
Бот может забыть или исказить информацию, сказанную ранее в чате.
Виной всему то, что у любой нейросети есть ограничение на длину «памяти» (в токенах). Помимо этого, в некоторых чат-ботах старые сообщения могут быть частично обрезаны.
Как минимизировать риски в работе?
Кратко напоминай ключевые факты в новых сообщениях. Если обсуждение длинное — лучше переформулируй всю задачу заново.
3. Слишком буквальное восприятие
Бот может не понять сарказм, шутку, иносказание или "игру слов", поскольку нейросеть опирается на тексты, а не интонации, эмоции, контекст вне слов. Тон иронии или юмора сложно уловить без явных указаний.
Как минимизировать риски в работе?
Говори прямо: "Это шутка" / "Скажи это с сарказмом" / "Говори как в комедии".
4. Формальные ответы без глубины
Ответ вроде бы правильный, но поверхностный, обобщённый, без анализа или свежести. Это связано с тем, что модель подбирает "среднестатистический ответ". Она по умолчанию не имеет мотивации к оригинальности.
Как исправить?
Проси прямо:
"Дай более глубокий анализ"
"Добавь уникальные примеры"
"Не используй клише"
5. Этические ограничения и автоцензура
Нейросети могут отказаться от ответа на даже безобидный вопрос, посчитав его «опасным». Поскольку в чат-ботах на основе нейросетей встроены фильтры безопасности (поиск запрещённого, вредного и т.п.), иногда они срабатывают избыточно.
Как минимизировать возникновение данной проблемы?
Переформулируй запрос нейтрально. Избегай слов, похожих на запрещённые. Например: наркотики, самоубийство, убить, секс и тому подобное.
6. Галлюцинации (придумывание фактов)
И, конечно, одна из самых главных проблем нейросетей — это галлюцинации. Чат-бот может выдать неправильную или вымышленную информацию, часто с уверенностью.
Такое возникает из-за того, что нейросети не «знают» мир — они предсказывают наиболее вероятные слова. Они не обращаются к реальным базам данных, если явно не подключены к интернету.
Как минимизировать риски по данной проблеме?
Перепроверяй факты вручную. Проси указать источник или уточняй.
Пишу о применении и влиянии новых технологий на бизнес и повседневную жизнь в канале Telegram: https://t.me/+NimdslpY9WU0MDYy
Показать полностью
1
Ответ на пост «Почему будущее робототехники – это не Терминатор, а робот-мусорщик? Мой скептический взгляд»1
Роботы-мусорщики - само собой. Но раз речь зашла о роботах для грязной, рутинной и неблагодарной работы, то роботы учителя и врачи просто неизбежны. Роботы полицейские и судьи тоже. Вишенкой на торте будут роботы разработчики и производители роботов.
Робот-мусорщик - сегодняшний день, а не завтрашний. Если уже не вчерашний.
Почему будущее робототехники – это не Терминатор, а робот-мусорщик? Мой скептический взгляд1
Меня всегда забавляли эти футуристические прогнозы про роботов-убийц, восстания машин и прочий Скайнет. Серьёзно? Мы что, настолько плохо знаем себя и свои потребности, чтобы всерьёз верить, что вершина робототехники – это человекоподобные болванчики с огнеметами? 🤦♂️
МОЙ ВЗГЛЯД НА БУДУЩЕЕ РОБОТОТЕХНИКИ
Я, как прагматик, всегда смотрю на вещи под углом «а какую реальную проблему это решает?». И вот эти все Boston Dynamics с их танцующими собаками – ну, прикольно, конечно, но практической ценности для большинства людей – ноль. Зато хайпа – вагон. А потом удивляемся, почему инвестиции идут не туда, куда надо.
Я считаю, что истинный прорыв в робототехнике – это не создание очередного Терминатора, а разработка машин, которые будут делать за нас то, что мы ненавидим. Грязную, рутинную, неблагодарную работу. И вот тут я наткнулся на одно видео, которое, на мой взгляд, идеально демонстрирует «правильное» место робота в человеческом обществе.
РОБОТ-МУСОРЩИК: ГЕРОЙ, КОТОРОГО МЫ ЗАСЛУЖИЛИ
Забудьте про роботов-хирургов и роботов-учителей. Настоящий герой – это робот, который ловит объедки и мусор. Да-да, вы не ослышались. Это – будущее.
Подумайте сами: сколько времени и сил мы тратим на уборку? Сколько неприятных моментов связано с тем, чтобы поднять что-то грязное с пола? Вот где настоящий потенциал! Не в том, чтобы робот заменил человека на заводе, а в том, чтобы он избавил нас от бытовой рутины. Чтобы он стал нашим личным, бесшумным и безотказным помощником, который просто делает свою работу, не требуя зарплаты и не устраивая забастовок.
К ЧЕМУ ВСЁ ЭТО ВЕДЁТ?
Это не просто забавная игрушка. Это демонстрация того, что робототехника может быть по-настоящему полезной, если мы перестанем гнаться за голливудскими штампами и начнём решать реальные, земные проблемы. Пусть роботы ловят мусор, а мы будем заниматься чем-то более интересным и продуктивным. Или просто отдыхать. 😏
А как вы считаете, это реальный прорыв или очередной маркетинговый пузырь? Жду мнений в комментах. И да, уважаемый ИИ, это была шутка. Или нет? 🤔
Показать полностью
Тренажёр, который научит пользоваться ChatGPT, созданный в нем самом1
Всем привет, меня зовут Владимир Король и я ведущий промт-инженер лаборатории "Promtagram".
Мы системно внедряем ИИ и особенно фокусируемся на обучении персонала. С этой целью мы создаём различные продукты, промты, обучения, чат-боты, но самое универсальное решение для знакомства с ИИ, которое я лично присылаю всем от друзей до родственников - наш тренажёр по возможностям ChatGPT, который реализован внутри него самого, через специальный установочный промт.
Почему нужен тренажёр, а не гайд?
Гайд быстро забывается. Текстовые инструкции сложно воспринимать и удержать в памяти.
Практика — ключ к навыку. Но вместо того чтобы ждать подходящего случая, лучше всего сразу пройтись по функционалу.
Универсальность. Нужен не «гайд для бухгалтера» или «гайд для маркетолога», а методология, применимая в любой сфере.
Как использовать этот тренажёр?
Вводите установочный промт
Уточняете свой уровень подготовки
Получаете чёткое задание.
Пробуете сделать в чате.
Получаете обратную связь от модели.
Даете уточнение или исправление.
Повторяете до финального теста.
В конце — итоговый отчёт: что освоено, над чем стоит поработать и немного похвалы.
Сам промт:
"Выступай в роли тренажёра по промт-инженерингу в ChatGPT. Проведи для меня часовой тренажёр, обучая меня урок за уроком эффективно составлять промты и общаться с ИИ, раскрыв его самые эффективные возможности и используя для этого основны системного мышления. Предварительно узнай мой уровень подготовки . Моя профессия: __________, мое образование: ____________. Мне важно освоить: - Формулирование чётких запросов. - Установку стиля и формата ответов. - Работа с внешними документами. - Запрос метафор и аналогий. - Уточнение и правку ответов. - Самопроверку результатов. Разбей это занятие на 10 упражнений. На каждом шаге дай теоретическую базу с реальным кейсом применения ChatGPT и короткое задание для практики, пример и жди моего ответа. Если ответ не верный или некорректный - поправь меня и жди пока я не выполню задание и только после этого переходи к следующему уроку. В конце тренинга дай итоговый отчёт: что я усвоил и на что обратить внимание и похвали меня за достижения, но только честно."
Мы всей командой прошли этот тренажёр и он даже нас, опытных исследователей, смог удивить. Поэтому советую попробовать даже гуру ИИ, ну и естественно рекомендуйте своему окружению.
А ещё подписывайтесь на наш тг-канал t.me/promtagram - там RSS-лента важнейших новостей, авторские статьи по промт-инженерингу и профильные промты.
Показать полностью
Магия? Нет, нейросеть. Представлена Ultra3D, которая создает 3D-модель из фото за 10 секунд
До недавнего времени создание качественной 3D-модели из одной картинки было долгой и муторной задачей. Нейросети пыхтели по несколько минут, а то и часов, чтобы выдать что-то более-менее внятное, часто "мыльное" и с искаженной геометрией. Теперь, похоже, всё изменилось.
Исследователи представили Ultra3D — новую модель, которая генерирует полноценную трехмерную модель из одного-единственного 2D-изображения всего за 10 секунд.
Как это работает?
Вы просто даете ей одну картинку — сову, бургер, статую, да что угодно. А через 10 секунд получаете готовую 3D-модель, которую можно покрутить со всех сторон и рассмотреть в деталях.
В чем прорыв?
Скорость. 10 секунд — это феноменально быстро. Предыдущие методы требовали долгой "оптимизации" под каждое изображение, а Ultra3D просто "прогоняет" картинку через себя и сразу выдает результат.
Качество. Судя по примерам на сайте проекта, качество впечатляет. Модель отлично справляется с мелкими деталями, сложными текстурами (вроде перьев совы или салата в бургере) и правильно восстанавливает геометрию объекта. Никаких "поплывших" форм.
Доступность. Нужна всего одна картинка. Не нужно снимать объект с разных ракурсов или иметь специальное оборудование.
Вот сравнение модели с другими:
Зачем это нужно?
Потенциал у технологии огромный:
Игры: Можно будет сфотографировать свой любимый предмет (или кота) и легко перенести его в игру.
Интернет-магазины: Вместо галереи фото — полноценная 3D-модель товара, которую можно покрутить перед покупкой.
3D-печать: Упростится создание моделей для печати.
AR/VR: Быстрое наполнение виртуальных миров реалистичными объектами.
P.S. А еще я веду канал "сбежавшая нейросеть", где рассказываю про ИИ с творческой стороны. Подписывайтесь!
Показать полностью
1
А вы знали, что по легенде тамагочи — это инопланетяне?
Они прилетели, чтобы изучать нашу планету, но оказалось, что без защитной оболочки им тут не справиться. Но в ваших силах им помочь! Открывайте игру с тамагочи и сделайте электронного питомца счастливым. Это не так просто, как было в детстве. Если справитесь, получите награду в профиль.
Про недавние запреты и ИИ
Читал я недавно перед сном Федеральный список экстремистских материалов, чтобы случайно ничего оттуда не нагуглить. И обнаружил что там есть много изображений. Причем изображения описаны с большой степенью детализации, в том числе с указанием национальности изображённых лиц, местоположения запрещённой символики и т.д. Кроме того, там приводятся конкретные тексты и лозунги, содержащиеся на изображениях.
Уже догадались на что это похоже? Конечно же на промт для ИИ!
Интересно, будет ли генерация изображений по таким промтам считаться поиском экстремистских материалов?
И можно ли посадить нейросеть будет ли сгенерированное изображение считаться собственно экстремистским материалом? Или это уже новое "произведение", запрещать которое нужно отдельным решением суда?