皮格梅隆：思捷环球Ⅱ期工程2059，神经计算
皮格梅隆：思捷环球Ⅱ期工程2059，神经计算
皮格梅隆目的是促进欧洲工业界的应用神经网络和建立编程和仿真的"标准"的计算工具。一个开发算法和应用完整的环境将用来展示网络的功能，预计从它们大规模的并行性，容错性，自适应性和学习性开始。
在过去的五年里，我们看到了一项关于计算机引人注目的研究，它包括了神经系统应用、模型、编程环境以及神经计算。该皮格梅隆项目旨在推广欧洲的工业的应用神经网络和发展欧洲编程和模拟神经网络的"标准"的计算工具。
神经网络中心编程工具环境包括五个主要部分。他们是一个图形监控控制系统和检测网络模拟仿镇，一个共同神经网络的算法库，高级别神经编程语言四，中间层次网络规范数控语言，和目标机器编译。
皮格梅隆还讨论了由晶圆规模集成技术实施的神经算法。事实上在VLSI （超大规模集成电路）上演示这种技术业已成熟。建立一个欧洲通用高度并行的神经计算和生产这只是第一步。高度并行的神经计算和生产应用。这些芯片将成为未来思捷环球Ⅱ期工程的目标。
皮格梅隆申请跨领域的图像处理技术，语音处理，和声信音信号。我们选定的关键是图像处理和语音处理在现实世界中的应用，以及水声信号的少量应用，以展示各种工业的问题潜在的神经网络。
在图像处理中，我们调查了两个重要应用领域中，远程数据传输和工厂检查。遥感技术包括模式识别和解释地球表面的现场图像。如道路交通、田地、和各种路面。工厂检查涵盖了产品在工厂的自动化识别和分类。这些产品的正常处理关系到在不同的照明条件下的位置、重叠和方向。
在语音处理方面，我们计划奠定了自动语音识别系统基础，制定有效的学习算法用于基础的建设。这些基础包括：
.独立识别小型和中型词汇;
.发言者的独立性和适应性；
.讲话预处理其中包括减少噪音；
.在嘈杂的环境中独立词识别能力;
.词单位的认同和协同发音；
自然界水下的面的声音信号通常被分为两个不同的方面。一般使用加工处理过的信号。它来自于分类后的声学系统。当输入神经系统那一类，它就直接成为了神经系统类的原始信号。
皮格梅隆工程同时从欧洲工业，研究中心和大学学校中带来了许多关于计算机神经系统方面的研究团队。
NNPS
皮格梅隆最主要的目标就是要通过使神经系统环境变的轻松和可控制的来提高它的使用范围。神经系统工程的主要任务包括以下几个方面：
.图表检测：对于神经系统任务的执行控制和检测的软件图形环境包含了语言的命令模拟。这种语言建立了一种模拟，执行控制，规则的相互改变和减少了网络的改进。
.图书馆规则：神经系统任务的参数图书馆编写N语言，向用户提供一些关于构建运行的有效指令。
.高级的N语言：它反对上等的系统语言定义，并与图书馆规则有关联。神经系统任务的规则和应用，通过描述网络剖析和自身动态来实现。
.高级的NC语言：低层次的独立核心的网络说明语言描述了部分改进的神经系统任务的应用是pascal系统的正式的改进过的P编码。
.编辑者：语言编辑是目标工作站的基础和基本的翻译工具。
图1举例说明了神经系统工程的应用环境。
图1皮格梅隆神经系统工程的运行环境。
为了提高一致性和一贯性，控制任务，实验室规则以及N和NC 语言需要通过以下几点性质来支持普通的连接。
1）.目前所有的神经系统构成都基于高级别的网络、法律、串、神经和突触。
2）.所有的规则参数。
3）.所有的规则和应用都来源于一个普通的指令系统的数据库、函数名、系统变量。
4）.一份规则的说明书是从应用中分离出来的。
表面单位的运行导致了普通规则和应用学的发展。一种应用可能会使用许多的规则，一种参数规则也可能有许多不同的应用。
图表检测：这种检测包含了神经网络的积累。它在一个主机上执行。普通的网络积累则在目标计算机上执行。主机通过X Windows工具和普通语言检测它的累积。
Windows的工作环境提供了一个全面的选择和改变I/O端口、网络建筑、网络规则的学习、网络升级和执行以及样品激活，重量等等。
皮格梅隆的图书馆规则
使用者通过使用图书馆规则来详细说明N语言中的神经网络。然后它们将这种说明转化为NC语言。一旦在NC中构造和说明。使用者就可以训练或使用神经网络来实现检测，这种检测使它们有力的证明了网络可能在一个不同的目标计算机上把它转换成一种目标机制或给后来的使用者减少了训练或部分网络训练。
图书馆规则
图书馆在参数定义上包含了基本的神经网络规则。它能满足一些特殊使用者的要求。它包括了以下一些流行的规则：
.有或没有的反馈的斜坡变化
.跳动领域
.实发机制
.消退的累积
.竞争性学习
.适应性的理论共鸣
.线性的想像记忆
.kanerva记忆
这些网络规则已经定义了关联几何学和转换方程式。但是，使用者收集了大量的过程单元。它们的特殊位置和重量价值、学习规则，以及时间常数。这个图书馆主要分为五个主要的部分（见图二）。
图二.主要的图书馆规则
独立的规则区域为记忆和错误管理包含了网络计算机和支持惯例
.图书馆常用工具有数据库、I/O端口、网络资源定义和表面测量
.规则指令详细说明了规则参数
.规则评价系统测试了规则指令。
.实用性图书馆向使用者提供了实用性规则
我们将规则图书馆的构造分为两个阶段。特别的，我们对图书馆执行C指令，通过在工程中使用图像和过程语言需求来使用。现在，我们使用N语言来运行图书馆，首次减少了规则的数量。
N语言
双方专家和普通用户可使用这个高层次的神经网络程序设计语言。它们可以制定神经规则算法，并利用规则算法申请。
N语言的语法是一个C + +额外的子集的神经导向功能。它允许描述的算法
1） 通过界定特定类型拥有自己的数据和行为在C + +之中比喻为一类。
2） 将她们组装成一个具有单元树的层次。
一个图书馆含有预定义类型和pardmeterized 规则算法（如Hopfield型，反向传播）伴随着N语言。
图书馆也可能含有未受保护的编程物体。程序员管理这部分的图书馆，它可以用来在读写模式。贮存的源代码包含各种图书物体，它让物体累积并易于集成到任何N计划中。
一个典型的n计画提供的类型定义名单。一类可以从以前界定中被界定。图3显示了结构类型定义。
new type xxx ( parameter-list ﹥
parameter declaration
composite types declaration
internal variables declaration
internal function declaration
above:
inherited variables declarations
plugin:
communication fields (inputs)
plugout:
communication fields (outputs)
connection:
connections between communication fields
public:
inheritance variables declaration
activation methods of the type being defined
图3.N计划的一个典型结构。
感谢选择制作了SylltaX，任何N计划都可以很容易的被翻译成C++程序和算法。因此可以模拟出一种序贯电脑如Sun和Apollo。此外，程序员就可以翻译任何神经网络结构和算法在N语言成为一个相当于数控结构，从而生成NC版本的任何N计划。
N程序语言提供了三种类型措施，其中程序员可以：
. 转换成一个N模型（也就是算法）到一个抽象代表中，这将使语义分析和联系编辑的几种算法有同一应用;
. 允许重用以前定义的算法;
. 使用工具和标准来翻译N语言应用到NC网络规格。
NC语言：这种语言可以作为立即神经网络的独立机器。程序员可以把一个网络，在指定的NC语言中拿到了各种计算机培训或使用。之后使用（培训），程序员则更新中间层次规格的网络。训练好的网络可以被保存在图书馆备案后使用，或映射到不同的计算机上。机器的独立性被认为是皮格梅隆NC语言的主要特征。为了提高这个，我们曾做出了语言的一个很小的子草案ISO标准中的C语言。
NC中级级别代表将神经网络信息分成四个不同的领域：该网络的拓扑结构，数据系统，包括神经的地位和突触度衡量，职能界定处理中的网络，并控制了整个网络的活动。一个关于框架的例子，神经网络描述出现在图4的99叶。
拓扑信息基本上描述了通过定义系统变量（如nets，layers，周期，学习率），使用＃定义指令，并完成了系统和配置结构。该系统结构界定了中央层次结构nets,layers,层数以及群类层次。配置结构规定了若干要素内的等级，例如多少层内有一个网络，有多少神经元在医院中等等。该体系结构还存储数据资料，从一个神经元的状态，体重，以及在规则的形式信息功能. 这些规则涉及到的职能应当由一个神经元如体重总结和体重等更新。
两种方法提供控制信息。有些系统定义了函数配置，初始化，以及训练网络，而名单上的电话系统功能集中控制整个系统。
硬件集成
虽然我们只钟情于一个很小的数额金钱。这在皮格梅隆项目的研究报告的硬件集成，我们取得了一些进展。我们研究了一个分散的体系结构，涉及了神经元处理器与当地的控制和状态值流通的级联。通过移位寄存器而无外部控制。我们认识到了20.mhz芯片只有一个神经元，它被测试并证明了是积极的。
我们可以通过定制这种构架，因为它的参数是神经元数，层数及互连;这些数据和系数精度;和学习能力。图5展示了神经处理器。这种处理器可以放在一起，如图6所示的全球性的体系结构。
图五. 神经处理器
图像处理
我们尝试，在这个图像处理领域项目中一步一步引入神经技术。我们开始，解决部分（高层次或低层次）问题。接下来我们的计划发展是连贯，完成我们未来的ESPRIT项目申请操作。这些申请将有能力处理复杂问题，显示了耦合的不同神经网络。经典的技术获得了全球的效果。
因此，我们认为两年的皮格梅隆作为第一步的勘探中的域的图像处理。
我们选择了两个非常不同类型的图片，各种可应用领域的图像处理。让我们来看各自的兴趣。该地区的遥感数据，有几个领域的应用领域：地质、农业、气象、水文、和制图等。此外，研究人员已经研究了这种类型的形象以经典的技术，尤其是低层次加工的各个领域的关注。很多的结果都是可供比较的。尽管如此。处理这种类型的数据是相当困难的，即使是经典的技术。此外，我们有没有弹性处理这些图片。一个是制约确切的看法，另一个是考虑的。
图六.结合在一起的神经处理器
问题的关键是我们考虑的类型数据并不是我们要的类型。即一家工厂自动化的语境。这个问题更简单和更容易。人们可以很容易的根据自己的需要去选择处理图片。根据问题的种类来选择。被调查后我们大致可以划分不同的工作，低层次的图像处理，对现场图像的高层次的处理加工，在经典技术下分割后的对工件的高层次的图像处理。
低层次的过程包括：
1）在神经网络自动压缩中应用反向传播。
2）分割成均匀的地区通过合并方式，优势和区域检测。在项目结束时，我们计划履行立体视觉效果的应用。
我们只考虑监督的分割。利用反向传播算法，以产生边缘或归类不同的区域，在得到基本的特色，证明是非常有效的。高层次的过程，主要是在两个和三个层面关注分类和模式识别技术。
在二维中，我们考虑了两个不同的做法。首先在第一方面，我们投入的描述对象或句法特点以神经网络作为分类器。在学习过程中网络的评估特点和选择的相关性。我们比较了几种类型的神经网络（Hopfield网络。多层感知器， Kohonen神经拓扑图）。
在第二种方法中使用了直接的图像（不预处理）来支持神经网络。该方法是基于约束的多层感知器，其中第一层是预处理数据。规则系数被迫把变量转换和或把物体旋转向网络。几个预处理可以用在不同领域的第一层。然后，训练算法（反向传播）定义适当的预处理和实现分类。
对于三维，我们开始与一些相应的图像，从不同的角度鉴于相同的3D对象。我们希望能够认识到一套三维物体的自动化。独立于自己的方向或位置上的飞机，我们采用联想记忆算法担当起这一任务。而这个应用目前还处于初步阶段。
最后，我们比较这些图像处理神经分类为更经典的技术。例如统计方法和句法模式识别技术。为此，我们已提供广泛的实验数据。
语言和信号处理
在过去，研究人员在对自动语言识别学习上曾尝试很多甚至是复杂的方法。在许多其他领域的技术的发展一直是惊人的迅速，科研投入这个“自然”的任务，不过，目前尚未取得足够的成果。乐观来看，但研究人员已成为越来越多的认识到了许多困难有待克服。研究者在人工神经网络的应用方面产生了相当大的希望。在他们看来，它作为一种新的方法，在这一特殊区域进行模式识别，能够克服目前存在的问题和提高识别系统的性能。
在目前的语音识别，噪声干扰，发言者有大量的词汇却词穷是主要的领域。在传统的系统。功能必须和其他的功能进行交换，以维持一定水平的表现，例如，词汇量的大小限制了在噪音中发言者的独立性和鲁棒性。相比之下，特色的神经网络如以往一样确定。使我们能预期他们，我们想提供这种系统的特点，因而提供了一个放大能力配置与至少可比的识别率。一个任意选择的语音识别任务，研究人员已经通过实验证明了工作效率神经网络。
客观的语音处理中的应用的基础特点是该皮格梅隆系统所调查的各种人工神经网络基础构架。这些架构按照适当的培训方法实行了高效率的学习方法，为个别题目提供了数项功能。他们是：
1）独立词识别。这项工作的重点是在真正的办公室环境语言独立词为一个中等规模的词汇（约100字）识别（IWR）。
2）发言者的独立性和适应性。在我们还计划研究低层次的预处理语音信号方面的特征以提取与降噪有关的独立IWR词汇。我们计划来证明IWR网络特征的提取功能，一个连续语音识别引擎可重复使用
3）包括减少噪音语音信号预处理。在神经网络的语音识别中，编码成为了一个非常重要的问题。我们必须考虑原始语音信号的编码，并提取有关特征。再加上我们计划在目前阶段信息（可能在超音方面）的形式。
4）噪音环境中的IWR。这项任务是致力于在电信环境中语言的独立识别。它包括设计和实施的一个小词库独立语言的语音识别，其准确度和可靠性使之适合于某一电话申请。即使是一个很小的词汇正在使用（例如， 10个数字加上一些指挥的词语，如"帮助"和"重复" ） ，其中许多可能的自动服务，可以提供给电话用户。
5）分词识别和协同发音。这项工作涉及协同发音，和分词单位。一种语言解析演讲到敏感的语言单位。如果我们认为语言是一个复合型的自组织系统，非常重要的是要知道如何将辅音和元音自组织结合起来到离散单位。这个问题的协同发音和分词单元，是一个根本的和关键的发言者方面的情况。这个讲话研究的目标是为了证明结构的离散单位存在一个很好的多媒体扬声器中。
在过去的应用领域，我们都在探索的是水下自然的声音分类。相对较小的研究已经尽力评估了神经网络关于多种算法的功能，它已经开发和优化了。我们运用神经网络的两种方式，我们可以用加工好的版本的信号，获得通过著名的和有效率的预处理算法。或者，在原始信号下我们可以直接适用于神经分类。
这项研究的做法，也说明了神经网络是如何的高效，在大量的时间和精力上需要发展一种应用。只要我们在全球网络的结构上顾及基本知识类型的信号处理，自动神经的适应性比理论学习更快。当显著的特征必须在认识过程之前从信号中提炼出来，它同样比事物研究更有效。我们希望这个领域在不远的将来实现业务的应用。
