Исследователи из Нью-Йоркского университета и Университета Помпеу Фабра (Испания) представили новаторскую методику, позволяющую повысить способность искусственных нейронных сетей к композиционным обобщениям. Этот прорыв, получивший название Meta-learning for Compositionality (MLC), способен произвести революцию в области искусственного интеллекта и машинного обучения.
Под композиционным обобщением понимается способность понимать и применять концепции в различных контекстах. Люди без труда понимают смысл таких фраз, как «проскочить два раза по комнате» или «проскочить с поднятыми руками». Однако машины испытывают трудности с таким типом мышления.
В течение десятилетий философы и ученые-когнитивисты считали, что искусственные нейронные сети не способны делать композиционные обобщения. Однако последние достижения в области технологий и исследований опровергли это мнение. В частности, MLC продемонстрировала многообещающие результаты, превосходящие существующие подходы и конкурирующие с человеческой производительностью.
Сила практики
MLC ориентирован на обучение нейронных сетей, таких как ChatGPT, улучшению навыков композиционного обобщения путем практики. Постоянно обновляя способности сети в течение ряда эпизодов, MLC позволяет системе лучше понимать и применять новые концепции. Такой подход отличается от предыдущих методов, которые опирались на стандартное обучение или специализированные архитектуры.
Бренден Лейк, доцент Центра науки о данных и факультета психологии Нью-Йоркского университета, подчеркивает значимость этого прорыва. «В течение 35 лет исследователи спорили о том, могут ли нейронные сети достичь систематического обобщения, подобного человеческому», — говорит он. «Мы впервые показали, что общая нейронная сеть может имитировать или превосходить систематическое обобщение человека».
Процесс создания MLC
Для разработки MLC исследователи разработали новую процедуру обучения. В каждом эпизоде нейронная сеть получает новое слово и получает задание использовать его по составу. Например, ее можно попросить создать новые словосочетания со словом «прыжок», такие как «прыгнуть дважды» или «прыгнуть вокруг правой стороны дважды». В ходе серии эпизодов композиционные навыки сети совершенствуются по мере того, как она работает с различными словами и контекстами.
Тестирование методики
Чтобы подтвердить эффективность MLC, исследователи провели эксперименты с участием людей, которые повторяли задачи, выполняемые нейронной сетью. Результаты оказались впечатляющими и показали, что MLC может сравниться или превзойти человека в обобщении композиции.
Будущее искусственного интеллекта
Развитие MLC открывает новые возможности для искусственного интеллекта и машинного обучения. Благодаря способности делать композиционные обобщения машины смогут лучше понимать и интерпретировать сложный язык, что приведет к улучшению распознавания речи и возможностей обработки естественного языка.
Эксперты в этой области с воодушевлением отмечают потенциальное влияние MLC. «Этот прорыв имеет значительные последствия для различных отраслей промышленности», — говорит Марко Барони, научный сотрудник Каталонского института исследований и перспективных разработок. «Он открывает путь к развитию таких областей, как автоматический перевод, виртуальные помощники и т.д.».
Оригинал earth-chronicles.ru
