英特尔“演化算法”新框架：29个Python代码块，自动生成新算法

iabajofbwe

新智元报道
编辑：大明
【新智元导读】英特尔的研究人员提出一种新的自动算法生成器（AAD），利用演化算法框架，以Python语言的基本子集作为语法架构，能够对29个数组/向量问题的代码块进行组合，通过学习，自动生成更复杂问题的解决方案。

本文介绍一种自动算法发现器（AAD），这是一种用于合成高复杂度计算程序的演化算法框架。此前的演化算法依赖于客观的适应函数，这在给算法设计上增加了难度。
本文提出的AAD采用问题式引导演化过程（PGE），这需要将一组问题一起引入，针对更简单问题发现解决方案，用于解决同一组问题中的更复杂的问题。 PGE还支持几种新的进化策略，并自然地应用于高性能计算（HPC）技术。
; T3 l  \9 ]1 v8 g# ]* l
8 F) c/ y6 u9 aAAD可以为29个数组/向量问题生成Python代码，范围从min，max，reverse到更具挑战性的问题，如排序和矩阵向量乘法。此外，AAD显示出对受限环境/受限输入的强适应性，以及针对“开箱即用”的问题的解决能力。
8 ^2 J! [8 ?# Y* `AAD是将相对简单的问题解决组件自动组合程序，可以实现搜索由这些组件的所有可能排列所组成的整个空间，然后寻找满足给定要求的解决方案。目前已经提出了许多这样的搜索策略（例如枚举，基于演绎，约束求解，随机）来应对这类挑战。
" @) B: J* X( G+ E# b
使用AAD的分类算法代码块示例
6 U% X/ @* g- ~# K0 P! [9 Z1 q本文提出了一种基于演化算法的搜索策略，将其AAD中实现。AAD可以基于Python的子集作为语法结构，组合成复杂度相对较高的程序（循环，嵌套块，嵌套函数调用等），并生成可执行的Python代码。在本文中使用AAD来发现数组/向量问题的算法解决方案。

. i' Q" p, t. t) ~, e: z4 ?总的来说，AAD实现了以下目标：
. ]* F$ ?3 m$ e! ^

• 使用问题导向型的演化策略来消除算法中的目标函数。
  
• 使用多样化的演化策略（多环境解决方案，异花授粉和联合演化），并通过广泛的实验评估其有效性。
  1 k, D6 K( R% H. q$ i& b
• 利用AAD解决通用Python语言中的29个数组/向量问题，表明演化算法能够解决复杂的新问题。
  " f+ I8 Y1 f3 h: u0 B
• 支持循环模块，可以发现任何（非零）输入的算法。
  

AAD结构设计方案和原理
  L7 G- }4 P3 }! L2 @5 GAAD主要架构示意图，主要由问题生成器、解决方案生成器和检测器组成
# G$ y1 R5 L9 B7 T- j7 D3 L- K( x问题生成器（ProbGen）
7 r( R: U2 V) |# n) a我们想要解决的每个问题都从问题生成器开始。 这部分负责：（1）指定输入和输出的数量和类型。（2）为给定的问题生成输入。例如，对于最大查找（Max），问题生成器指定Max将一个数组作为输入，并生成一个数字作为输出。另外，当请求为大小为N的问题生成输入时，会产生一个由N个数字组成的输入数组。
  W; s5 v6 p8 @0 i! W7 e2 m0 f( `检测器（Checker）
# Z" k  P4 ^6 _& g: d# Z+ u检测器负责接受/拒绝为给定问题生成解决方案。 检测器使用问题生成器生成的输入执行生成的程序，并生成输出。检测器中包含接受/拒绝输出的逻辑。因此，检测器与给定的问题生成器对应，两者齐头并进。
& p0 t5 {" P( x/ w检测器不一定真正需要实现其想要发现的算法。比如，针对“排序问题”的检测器不必对真的对输入数组进行排序，而是可以比较输出数组中的每两个相邻元素，并查看这两个元素是否按预期顺序排列。一旦检测到未排序数据对，检测器会做出“失败”的声明。如果每对相邻元素都是有序的，并且输出数组中包含的元素与输入数组完全相同，则检测器宣布可接受该解决方案。
4 e7 [$ l7 L/ _  J& @5 p7 `2 Q; I解决方案生成器（SolGen）
0 A" }- M$ O  ~SolGen主要由两部分组成：（1）表达式/短语存储，以及（2）演化器。
表达式/短语存储器（ExpStore）
  Q/ a0 e4 V" I3 ]& ^& C解决方案生成器使用语法构造源程序。 AAD使用的Python语法子集存储在ExpStore中，如表1所示。在AAD中，语法规则使用类型信息进行扩充。
AAD支持四种数据类型：数字（NUM），布尔数（BOOL），数组（ARR）和数组的数组（AoA），它们可以对矩阵进行建模。此外，表达式的每个操作数都标记为Consumer（只读），Producer（只写）或ProdCon（读-修改-写）。
演化器（Evolver）
演化器负责对表达式和短语进行组合，以生成程序（或函数），以解决问题生成器提出的问题。演化器分三个阶段构建解决函数（SolFunc）。

• 阶段1：构建解决函数
  
• 阶段2：在“生产者”（只写数据）和“消费者”（只读数据）间建立联系
  
• 阶段3：操作和函数调用突变
  " f& H( w" w3 b6 X2 i

检查输出
2 g6 X$ b3 J, ]5 U( s0 N一旦解决函数构建出来，就会执行这个函数，使用Python的exec函数生成输出结果。检测器负责检查输出，判定接受或拒绝输出。如果第一个输出被接受，则使用问题生成器生成的更多不同大小的、与输入测试相同的解决函数。如果检测器接受了所有测试，则该解决函数即被声明为该问题的解决方案。上述三个阶段构成了一个循序渐进的步骤。

$ i8 J' g6 G0 u7 g上表所示为在问题集A中的调用者-被调用者的关系。比如SortDesc函数所在的行显示，SortAsc在57％的解决方案中调用了Max函数，在14％的解决方案中调用了Min函数，以此类推。Min，Max和ReverseArr函数没有调用任何其他函数。所有其他函数都依赖于一个或多个函数来得到解决方案，显示出函数组合的重要性。
6 l( b1 ?" q3 v! E3 R- T. c
( S1 g6 S' I+ \- y, N3 W* P7 m
上表中列出了3组问题以及在基线方法下的步数表现，并将其与四种演化策略下的表现进行了对比。
% p6 x, a) V. J# u, k未来前景与应用方向从概念上讲，AAD也可用于程序翻译。对于用C语言，汇编语言甚至二进制语言编写的程序，可以执行该实例作为AAD的检测器来生成Python（或类似语言）代码。这种方式与仅通过观察另一个对象行为，来构建自身行为方式的机器学习算法类似。很明显，本文中使用的Python代码可以被视为“Python到Python”的翻译，因为不同的检测器对应了不同的Python实现。
AAD可能不仅仅是一个程序合成器。它还可以用来获取机器的内在知识。通过调用-被调用关系图和父子图捕捉不同问题之间的内在关系。这些关系是由AAD本身发现的，并且可以被认为是不同操作之间的联想记忆的一种表示，其形式与人类大脑构造和机制类似。
- L7 A' J- w* _9 E4 V由于AAD可以通过引入越来越多的问题来增加知识储备的扩展，通过适当的指导机制，就可以引导系统获取大量技能（算法），并自己构建知识表示。就像我们在自己孩子还小时，向TA们提出许多问题和挑战，目的是为了引导孩子们获得大量技能和知识。
AAD是用于综合高复杂度程序的演化框架，它以Python语言的基本子集作为语法架构。使用AAD能够对29个数组/向量问题的代码块进行组合，其中既有最大值、最小值，矩阵翻转这类简单问题，也有更具挑战性的问题，如排序和矩阵向量乘法等，对于输入没有大小限制。
$ a8 p- t" Y) \4 ]7 v我们评估了解决这些问题策略的有效性，并证明了AAD具备解决“开箱即用”问题的能力。为了应对复杂需求带来的各种挑战，AAD工具还能实现与高性能计算（HPC）技术的结合。总的来说，与现有技术相比，采用PGE的演化算法能够解决类似或更高复杂性的问题。
论文链接：
【2019新智元 AI 技术峰会精彩回顾】
1 |$ y4 m4 H7 C" J4 W* W2019年3月27日，新智元再汇AI之力，在北京泰富酒店举办AI开年盛典——2019新智元AI技术峰会。峰会以“智能云•芯世界“为主题，聚焦智能云和AI芯片的发展，重塑未来AI世界格局。
同时，新智元在峰会现场权威发布若干AI白皮书，聚焦产业链的创新活跃，评述AI独角兽影响力，助力中国在世界级的AI竞争中实现超越。

# G+ c6 C# }9 g& o
1 ^- P, V# g& A; C1 R" _来源：http://www.yidianzixun.com/article/0LiLzwbS
" x  P1 {' Y% A" I5 Z免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！