小数据人工智能正在崛起，产学界探索可信AI

每当购买一个面包，就有一只可爱的柯基失去它的屁股，这种说法背后隐藏着一个有趣的视觉混淆。面包和柯基的屁股，两者看似毫无关联，却在某些情况下产生了奇妙的相似性。这种相似性引发了人们的笑声，同时也提醒我们，在人工智能的世界里，数据的微小差异可能会导致巨大的误解。

人工智能（AI）如同一个精准的识别机器，但有时候，它也会被欺骗。当数据具有相似的特征时，就像那些看起来相似的面包和柯基屁股一样，AI可能会混淆，出现误判。这就像当AI程序试图抓取数据时，如果数据存在偏差或误导，那么AI可能会捕捉到错误的信息。这些错误的数据输入可能导致AI程序做出错误的判断。我们需要更加谨慎地处理数据，确保人工智能能够做出准确的决策。

随着人工智能技术的不断发展，机器学习已成为其核心技术之一。这也带来了一些安全隐患。攻击者利用机器学习模型的特性，通过注入伪装的数据和信息来污染模型，误导人工智能做出错误判断，这一行为被称为“数据投毒”。

人工智能的运作依赖于大量的数据进行模型训练。这种依赖引发了一系列问题。过度收集个人数据、脏数据清洗难度大、数据匮乏领域依然存在“数据孤岛”等，这些问题一直困扰着人工智能领域的发展。

近期，美国网络安全和新兴技术局（CSET）发布了一份研究报告《小数据人工智能的巨大潜力》。报告指出，一直被忽略的小数据人工智能潜力不可估量。小数据同样可以发挥出巨大的价值，为人工智能的发展提供新的方向。

攻击者利用数据投毒的方式，对机器学习模型进行干扰和破坏，这给网络安全带来了极大的威胁。而CSET的研究报告则提出了一种新的思路，即利用小数据来推动人工智能的发展。报告认为，在特定领域里，通过收集和利用相关数据，可以训练出高效且精准的人工智能模型，同时避免了一些大数据带来的问题。

小数据人工智能的潜力在于其能够更加精准地处理特定领域的数据，避免了大数据的冗余和复杂性。小数据还更容易进行清洗和整理，减少了数据处理的时间和成本。随着技术的不断进步，小数据人工智能将会在特定领域里发挥出更大的作用，为人工智能的发展开辟新的道路。

随着机器学习技术的不断发展和应用，数据投毒等安全问题也浮出了水面。而CSET的研究报告则为我们提供了新的思路和方法，即通过小数据来推动人工智能的发展，解决一些大数据带来的问题，为未来的技术发展带来新的机遇和挑战。自2006年起，人工智能领域掀起了一场基于深度学习技术的全球浪潮，这场浪潮由“AI教父”杰弗里·辛顿和他的学生鲁斯兰·萨拉赫丁诺夫所引领的深度学习理念的推广而引发。随着人工智能产业的迅速发展，大数据行业正在经历深刻的变化。

人们逐渐认识到，大数据并非越大越好，而是需要精准、高质量的数据来提升人工智能模型的效能。大数据正在回归小数据，更加注重数据的价值和质量。在这样的背景下，数据合规问题也逐渐浮出水面。

人工智能行业的数据合规将面临怎样的挑战和机遇？如何在保护数据隐私的充分利用数据推动人工智能的发展？这些问题成为了行业关注的焦点。一方面，需要制定更加严格的数据保护法规，保障数据的隐私和安全；另一方面，也需要探索新的技术手段，如差分隐私、联邦学习等，实现数据的隐私保护和有效利用之间的平衡。

人工智能和大数据的融合发展，正在改变我们对数据的认知和利用方式。从大数据回归小数据，不是简单的逆转，而是对数据价值和质量的新追求。在这场变革中，我们需要重新审视数据的重要性，并在保护数据的充分发挥其在推动人工智能发展中的作用。随着深度学习算法从学术殿堂走向工业应用，大数据资源的使用愈发普遍。从早期的语音识别、人脸识别等应用的数据生产，到互联网电商体系下的行为数据生产，无一不是基于大规模数据分析的结果，它们共同推动了整个数据产业的蓬勃发展。

在人工智能的广阔领域中，小数据方法并非新兴概念。与依赖海量数据总结规律的学习方法形成对比，小数据方法基于人类的先验知识，在数据量少的情况下，依然能够训练出智能模型。这种方法主要涵盖迁移学习、主动学习、强化学习、贝叶斯方法以及数据生成等技术。其中，迁移学习能够将一个任务中学到的知识迁移应用到另一个任务中；主动学习则侧重于从大量未标记数据中挑选出最有价值的样本进行学习；强化学习通过与环境的交互来不断优化决策策略；贝叶斯方法则通过概率模型对不确定性问题进行建模；数据生成技术则通过模拟生成数据来扩充数据集。这些方法各具特色，共同为人工智能领域的发展注入了新的活力。在数据量稀缺或无标记数据可用的情况下，模型训练必须依赖小样本数据、人工先验知识或预训练模型。这种现象在学术界的早期模型训练中尤为普遍，那时的数据量通常都不大。迁移学习和强化学习等方法，便是基于人类先验知识的小数据方法的重要应用。

同盾科技合伙人兼人工智能研究院院长李晓林曾参与一项实验，该实验通过对美国周边某种濒危海象的图片特征进行深度学习，为动物保护协会提供了一种在数量统计上的解决方案。这种海象全球数量仅2000多头，且个体间差异细微，因此只能采用小数据方法训练模型以进行识别、去重、入库和统计工作。这种深度学习模型的训练，不仅要依靠少量的图片数据，还需要结合专家的知识和经验，通过不断的试错和调整，最终实现对海象数量的准确统计。这一过程充分展示了小数据方法在实际应用中的价值和挑战。随着深度学习算法的不断进步，数据的价值被日益挖掘，与此网络攻击如“数据投毒”等也给数据治理带来了更大的挑战，对机器处理复杂数据的能力提出了更高的要求。在这样的背景下，人工智能正在从感知走向认知，逐渐渗透到商业的本质中。

天云数据CEO雷涛指出：“随着我们逐渐接触到信息化系统中因为流程处理所沉淀的小数据，我们发现这些交易、流程中的数据价值密度更高，相较于图像视觉等传统信号体系更为复杂。这需要一种认知层的人工智能基础设施来解读其中的含义。这就像是在浩瀚的数据海洋中探索宝藏，需要我们借助更先进的技术和工具，深入挖掘数据的潜力。”

在人工智能的广阔天地里，雷涛认为，在我们迎来能够推理和解决问题的强大人工智能之前，小数据在问题泛化表达能力出现之前，发挥着不可替代的作用。在机器模型构建的过程中，小数据如同黄金般的珍贵。它需要我们借助丰富的人类先验知识，与材料数据进行深度互动。这一过程包括数据衍生、数据升维、数据降维等，都是基于答案的数据或是业务的显性特征。通过算力和数据之间的巧妙交融，我们可以让模型学习更为高效。

基于小样本数据的分析偏差也是不容忽视的。李晓林向记者阐述了避免小数据方法出现失误的关键——那就是借助丰富的人类先验知识，进行迁移学习。通过这些知识，我们可以更好地解读数据的真实含义，弥补小数据可能带来的信息不足，从而使分析结果更为准确。

在这个人工智能蓬勃发展的时代，小数据如同璀璨的明星，虽然光芒不及大数据那么耀眼，但在特定的场景下，却能够展现出其独特的价值。雷涛和李晓林的见解，为我们更好地利用小数据，提供了宝贵的思路。随着数据要素流通市场的建设，如何激活数据价值的同时保护数据安全，已成为大众关注的焦点。洞见科技CEO姚明指出，目前对于小数据方法的重视，并不意味着摒弃了基于大数据的模型训练。

实际上，小数据模型在当下主要用于与大数据模型的交叉核验，二者结合能共同完善模型。在数据合规的背景下，对可信AI的探索也愈发深入。如何在遵守数据安全和隐私保护法规的前提下，实现AI技术的有效应用，是当前的热门议题。

随着技术的不断进步和市场的不断发展，数据的价值逐渐被激活，但同时也带来了数据安全的问题。在数据流通和使用的每一个环节，都需要严格遵循数据合规的要求，确保数据的安全性和隐私性。

未来，随着技术的不断创新和市场的深入发展，我们期待在保护数据安全的前提下，更好地激活数据价值，推动AI技术的进一步发展。《个人信息保护法》于11月1日正式生效，这部法律对于个人信息处理者提出了更严格的要求。在收集、加工、使用、传输个人信息的过程中，都必须严格遵守法律规定，任何组织或个人不得非法获取、使用、加工、传输他人的个人信息，更不得进行非法买卖、提供或公开。个人信息处理者在利用个人信息进行自动化决策时，必须公正对待每个人，不得在交易价格等交易条件上实行不合理的差别待遇。

在面临数据匮乏的领域或是由于共享意愿不足而导致的“数据孤岛”问题时，我们可以采取小数据策略来处理数据缺失的情况。通过利用少量的数据点，我们可以创造出更多的数据点，进而开拓新领域的探索与预测。这一方法的成功依赖于关联领域的先验知识，我们可以通过迁移学习的方式，将已知领域的知识应用到未知领域，从而实现数据的增值。

当我们谈论人工智能时，我们不能回避的是它面向个体的计算能力。雷涛认为，人工智能在计算个体数据方面的应用是无法避免的，关键在于我们要如何合规、适度地使用它。在数据的海洋中，每一个个体都是独一无二的存在，人工智能正是能够精准地计算出每一个个体的特性和需求，从而为我们提供更加个性化、高效的服务。对于人工智能的使用，我们不仅要看到它的优势，更要注重合规、适度的原则，以确保技术的健康发展。

通过以上方法，我们可以在数据匮乏或“数据孤岛”的情况下，利用人工智能的个体计算能力，实现数据的有效利用和预测，为各领域的进步提供有力的支持。全球产学研界已经积极投身于可信人工智能的研究与探讨。随着技术的不断发展，人工智能已经深入到各个领域，对于其可信度的要求也越来越高。据中国信通院统计数据显示，2020年可信人工智能研究论文的数量相比2017年增加了近5倍，显示出该领域的热门程度。

各国人工智能产业巨头也在积极行动，通过研发可信工具、制定可信的人工智能原则等方式探索可信AI实践。在探索过程中，鲁棒性、隐私保护、可解释性和公平性是四个备受关注的关键词。这些关键词不仅代表了可信人工智能的重要特征，也是评估其性能和应用效果的重要指标。

在2021年世界人工智能大会上，蚂蚁集团首席AI科学家漆远强调了这四个关键词在可信人工智能领域的重要性。他提到，鲁棒性是指人工智能系统的稳定性和抗干扰能力；隐私保护则是保护用户数据不被滥用或泄露；可解释性是指人工智能系统的决策过程可以被人类理解；而公平性则要求人工智能系统在处理不同用户数据时能够保持公正。

随着技术的不断进步和应用的不断拓展，可信人工智能将成为未来人工智能领域的重要发展方向。相信在产学研界的共同努力下，可信人工智能将会得到更广泛的应用和推广，为人类带来更多的便利和福祉。在探索产业界可信人工智能（AI）的过程中，可解释性成为一个至关重要的要素。它涉及到模型的解释性、样本的可解释性和结果的可解释性，这是将深度学习与人类知识结合的关键桥梁。专家机制的引入，有助于弥补传统纯深度学习的潜在风险。

漆远指出，因果分析是使机器学习更加稳定的重要因素。在小数据环境下，我们无需依赖大量的经验和知识，因为基于人类经验的因果关系是极其稳定的。这一观点为机器学习领域带来了新的视角和解决方案。

在推动产业界可信AI的发展过程中，隐私计算技术成为了风口上的热门话题。这种技术使得数据在保持其价值和效用的实现了“可用不可见”、“可用并可控”以及“可控可计量”的目标。这不仅确保了数据的隐私安全，还使得数据的利用更加高效和精准。

在获取个人信息使用授权后，数据的处理过程中隐藏着诸多风险，比如数据的复制、泄露乃至被转售。为了从技术上保障数据的安全，隐私计算技术应运而生。金融行业作为数据的汇聚中心，率先应用了隐私计算技术。目前，政务、医疗、工业互联网等领域在数据协同过程中，也开始采用这一技术。

姚明向记者详细解释了隐私计算的重要性。他强调，隐私计算的核心在于解决数据的确权问题，实现数据所有权和使用权的分离。这意味着，在不需要移动或访问数据的情况下，我们仍然可以获取数据的价值转移。

这一技术的出现，为数据的处理和保护带来了全新的解决方案。在保障个人隐私的也促进了数据的有效流通和利用。雷涛指出，这是数据时代的一大进步，将为我们未来的数字化生活带来更加广阔的前景。在数据流转的过程中，隐私计算技术发挥着重要的作用。据李晓林介绍，这一技术在政务数据开放与数据交易场景中得到了广泛应用。

在各地的政务数据流通过程中，由于各种原因，如不愿共享、不敢共享、不能共享，导致了数据孤岛的出现。为了解决这个问题，我们可以借助基于隐私计算的共享智能平台。这个平台可以帮助我们打通数据壁垒，实现数据的深度挖掘与价值释放。

金融业的情况也有其特殊性。中国工商银行发布的金融业首份隐私计算白皮书中指出，现阶段我国尚未出台匿名化技术标准或相关指引性文件。为了更好地应用隐私计算技术，金融业可以探讨专门出台隐私计算技术使用指引，以指导各方合规应用相关技术。

人工智能立法进程正稳步推进

如今，海内外关于人工智能的立法工作正如火如荼地进行着。人工智能的快速发展对社会产生了深远影响，为应对其带来的挑战和机遇，各国纷纷着手制定相关法规。

就在最近，联合国成员国大会通过了首个关于人工智能的全球标准——《人工智能问题建议书》。这一《建议书》旨在确保人工智能的发展能够为社会带来积极的影响，同时预防和应对可能出现的潜在风险。该文件的通过标志着国际社会对于人工智能的关注和重视，也预示着人工智能立法工作迈出了重要的一步。

随着技术的不断进步，人工智能的应用场景越来越广泛，对其进行的立法工作也愈发显得必要。通过制定相应的法规，可以规范人工智能的发展，保护公众的利益，促进技术的健康、可持续发展。期待未来，在人工智能的立法工作中，能够进一步推动技术创新与社会责任的平衡，为人工智能的繁荣发展创造更加良好的环境。

最近的一份《建议书》引发了广泛关注与讨论，其核心理念是关于个体数据权利和人工智能的探讨。这份建议书强调，每一个个体都应当拥有访问甚至删除其个人数据记录的权益。不仅如此，它还致力于改善数据保护，让个体更加了解并掌控自己的数据。也对世界各地的监管机构提出了提升执行能力的要求。

其中，禁止使用人工智能系统进行社会评分和大规模监控被明确提及。这意味着，人工智能在收集和处理个人数据的过程中，需要遵循更为严格的规范和道德约束。《建议书》背后的逻辑是，人工智能不应该成为一种侵犯个人隐私和自由的工具。

欧盟的数据保护委员会与监督局在今年6月发表联合意见，进一步推动了这一议题的发展。他们针对今年4月发布的人工智能法规草案表达了强烈意见，呼吁在公共场所禁止采用人工智能自动识别个人特征。这些特征包括但不限于人脸识别、步态、指纹、DNA以及声音等生物或行为信号。这表明，对于人工智能与数据保护的交融点，全球都在给予高度的关注和重视。

我国的“个保法”第二十六条针对公共场所安装图像采集和个人身份识别设备做出了明确规定。这些设备的安装必须是为了维护公共安全所必需，同时需要遵守国家的相关规定，并在显眼位置设置提示标识。所收集的个人图像和身份识别信息只能用于维护公共安全的目的，未经个人单独同意，不得用于其他目的。

最近，上海人大通过的数据条例进一步细化了人工智能技术的使用规定。其中，对于人工智能技术在公共场所的图像采集和个人身份识别设备的运用，条例明确要求必须严格遵守“个保法”的相关规定。条例还鼓励在保障公共安全的前提下，探索人工智能技术在其他领域的应用，以促进技术的健康发展。

这些法规的出台，旨在保护公民的隐私权和安全，同时也为人工智能技术的发展设定了明确的规范。在公共场所使用图像采集和个人身份识别设备，必须遵循法律规定，确保个人信息安全，维护社会公共秩序。近年来，随着人工智能技术的迅猛发展，个人信息保护的问题日益受到重视。上海为响应这一关切，采取了进一步的措施来限制个人信息采集的区域，并将其范围扩展至居住小区、商务楼宇等非公共场所。这一政策标志着我国个人信息保护的一大进步。

值得注意的是，上海明确规定，图像采集、个人身份识别技术不得作为出入上述场所或区域的唯一验证方式。这一举措旨在防止过度依赖技术手段进行个人信息采集，从而保护公民的隐私权。

对于通过自动化决策方式进行信息推送和商业营销的行为，相关部门也做出了明确规定。自动化决策方式虽然提高了效率，但也容易忽视个体需求。在推送信息时，必须同时提供不针对个人特征的选项，或者提供便捷的拒绝方式，以尊重个人的选择权。

更进一步的，如果通过自动化决策方式作出的决定对个人权益有重大影响，个人有权要求处理者予以说明，并有权拒绝处理者仅通过自动化决策的方式作出决定。这一规定体现了对个体权利的充分尊重，也提醒相关企业在使用人工智能时，必须考虑到其决策可能带来的后果。

记者多方了解到，目前我国多地对于人工智能的地方立法正在探索中。目前，天津、南京、杭州、深圳等地已相继出台管理条例规范人脸识别。未来，人工智能相关管理条例将主要聚焦人工智能体规范和算法规范两大方面，以确保人工智能技术的发展在法律的框架内进行，保护公众的个人信息和隐私权。

我国在个人信息保护和人工智能规范方面正在积极探索和进步，这体现了对公民权利的尊重和保护。随着技术的不断发展，我们期待更多的措施和法规来保护公民的隐私权和个人信息。