Для построения своих моделей команда под руководством профессора наноинженерии Шью Пинг Онга из инженерной школы Калифорнийского университета в Сан-Диего Джейкобс использовала новую структуру глубокого обучения, называемую графовыми сетями, разработанную Google DeepMind, мозгами AlphaGo и AlphaZero. Графические сети могут расширить возможности существующей технологии искусственного интеллекта для выполнения сложных задач обучения и рассуждений с ограниченным опытом и знаниями – то, в чем люди хороши.
Для материаловедов, таких как Онг, графические сети предлагают естественный способ представить взаимосвязи между атомами в молекуле или кристалле и позволяют компьютерам узнать, как эти отношения соотносятся с их химическими и физическими свойствами.
Новые модели на основе графовых сетей, которые команда Онга назвала моделями MatErials Graph Network (MEGNet), превзошли современные достижения в предсказании 11 из 13 свойств для 133000 молекул в наборе данных QM9.
Команда также обучила модели MEGNet примерно на 60 000 кристаллов в рамках проекта «Материалы». Эти модели превзошли предыдущие модели машинного обучения в прогнозировании энергии формации, ширины запрещенной зоны и модулей упругости кристаллов.
Команда также продемонстрировала два подхода к преодолению ограничений данных в материаловедении и химии. Во-первых, команда показала, что сети графов можно использовать для объединения нескольких моделей свободной энергии, что приводит к многократному увеличению обучающих данных.
Во-вторых, они показали, что их модели MEGNet могут эффективно изучать взаимосвязи между элементами периодической таблицы. Эта информация, полученная с помощью машинного обучения из модели свойств, обученной на большом наборе данных, затем может быть передана для улучшения обучения и точности моделей свойств с меньшими объемами данных – эта концепция известна в машинном обучении как трансферное обучение.