Наряду с прогрессом искусственный интеллект (ИИ) все больше развивается, и риск так называемого «инбридинга» в генеративных системах ИИ становится опасностью, давно распространенной среди популяций людей и домашних животных.
Эта статья прольет некоторый свет на концепцию инбридинга в свете генеративного ИИ и на то, как инбридинг может стать связанным с будущим контента, генерируемого ИИ.
Понимание генеративного искусственного интеллекта Инбридинг Системы генеративного искусственного интеллекта, такие как большие языковые модели (LLM), в первую очередь обучаются на комплексных наборах данных из текстового, визуального и аудиоконтента, доступного в Интернете. Первоначально набор данных в основном включал предметы, созданные людьми, такие как литература, статьи и произведения искусства. Однако с появлением инструментов генеративного ИИ все больше и больше контента в Интернете пишется самим ИИ.
Этот сдвиг вызывает обеспокоенность по поводу качества и разнообразия наборов данных, используемых для обучения будущих систем искусственного интеллекта. Ожидается, что с развитием контента, создаваемого ИИ, многие будущие поколения моделей ИИ будут учиться на наборах данных, которые представляют собой не человеческий контент, а материал, созданный ИИ.
Последствия генеративного инбридинга ИИ многогранны.
Напротив, продолжение обучения системой ИИ на все большем количестве однородных наборов данных может привести к снижению креативности и оригинальности результатов, генерируемых ИИ.
Если этот процесс повторяется, то есть копирование копии, последовательно на протяжении нескольких поколений, качество результата снижается, и результаты рискуют оказаться менее интересными и, возможно, менее отражающими то, что мы считаем творческим продуктом человека. . С ростом контента, созданного ИИ и обученного на врожденных наборах данных, такие проблемы могут усугубиться.
Если наборы обучающих данных недостаточно разнообразны, то разработанные системы ИИ будут лишь усиливать и усиливать предвзятости, присутствующие в контенте, создаваемом ИИ, тем самым еще больше подрывая заслуживающее доверия использование контента, генерируемого ИИ, в качестве источника информации. Более того, отсутствие разнообразия в обучающих данных может ограничить возможность разработки систем ИИ, которые могли бы правильно понимать и представлять широкий спектр человеческого опыта и точек зрения. Это может ограничивать прогресс в различных областях применения ИИ, таких как обработка естественного языка, генерация контента и системы принятия решений.
Решение проблемы генеративного инбридинга ИИ
Прежде всего, это настоящий риск, особенно инбридинг генеративных технологий искусственного интеллекта. Тем не менее, это возлагает на исследователей, разработчиков и даже политиков ответственность действовать упреждающе. Обеспечение использования разнообразных и репрезентативных наборов данных в качестве первоочередной задачи во время обучения системы ИИ, интеграция механизмов, которые смогут обнаруживать и уменьшать предвзятости в контенте, создаваемом ИИ, а также обеспечение эффективного междисциплинарного сотрудничества при одновременном рассмотрении и обеспечении учета этических и социальных последствий создания ИИ.
Они должны еще больше способствовать обеспечению открытости и подотчетности при развертывании систем ИИ и требовать, чтобы пользователи контента, созданного ИИ, доводили до сведения пользователей информации об ограничениях и предубеждениях. Следовательно, все заинтересованные стороны могут активно стремиться к сотрудничеству в использовании возможностей генеративного ИИ, одновременно снижая риски, связанные с инбридингом в разработке ИИ.
Концепция инбридинга в генеративном искусственном интеллекте — это серьезная будущая задача для разработки и внедрения систем искусственного интеллекта. Это поможет им гарантировать, что ответственное и этическое развитие технологий для общества будет осуществляться путем понимания последствий и способов эффективного улучшения генеративного инбридинга ИИ.
Источник: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/