FX168财经网_全球视野外汇黄金加密货币NFT资讯网

三，谷歌公布，扩大同OpanAI劲敌、AI安全和研究初创公司Anthropic的合作伙伴关系，Anthropi将运用谷歌新一代的Cloud TPU v5e芯片进行AI推理。

金融界2023-11-09

马斯克在英国布莱切利公园举行的首届全球AI安全峰会上推测，这项技术将能够“执行一切任务”，并使我们当前所知的就业成为过去。 2015年，马斯克与他人联合创立OpenAI，该公司是AI聊天机器人ChatGPT的母公司，该公司在全球范围内掀起了生成式AI技术的热潮，但马斯克于2018年辞去了董事会职务。受到xAI的AI模型进入测试阶段消息影响，7月发行的XAI Corp(XAI)迷因币在11月3日三小时内暴涨433%，从0.0000000012美元最刚飙涨至0.0000000064美元，涨势相当惊人，但来到本周一，其价格已经大幅回落，暂报0.000000002112美元。 (来源:CoinMarketCap) 狗狗币知名社群成员DogeDesigner也贴出一则称XAI代币有望暴涨20倍的报道，警告散户小心此类加密货币，并提醒马斯克和xAI公司与任何此类代币皆无关系。 (来源:Twitter) 很快地，这也吸引马斯克的回应：“非常明确的是，我的公司都不会创建任何加密代币。” (来源:Twitter) 在今年8月，马斯克也曾公开表示，X永远不会推出加密货币，试图反驳推特疑似要发行X代币的社群传言。只是这不代表未来不会有X代币的诞生，只是马斯克可能不会选择用区块链发行，而是用Web2的方法来打造。

圈内人2023-11-06

首届全球人工智能安全峰会召开推动人工智能监管

据报道，首届全球人工智能（AI）安全峰会于11月1日至2日在英国布莱奇利园召开，包括中国、美国、英国和欧盟在内的超25个国家代表，以及特斯拉CEO马斯克、OpenAI创始人兼CEO阿尔特曼等科技巨头与会。中方代表团联署了会议的重要成果文件——关于人工智能国际治理的《布莱切利宣言》，同意通过国际合作，建立人工智能（AI）监管方法。我国首个生成式人工智能产业规范，《生成式人工智能服务管理暂行办法》，于2023年8月15日实施。办法着重强调数据和安全，要求处理训练数据和数据标注。生成式人工智能服务供应商需采取措施避免未成年人过度依赖，对生成内容标明标识。安全评估、算法备案、投诉制度等明确法律责任。该规范旨在促进生成式人工智能健康发展，保护国家安全和公共利益。此前东吴证券表示，有图像、视频鉴真或内容监管能力的企业有望率先受益于AI监管政策的出台与落地。建议关注AI监管相关公司：人民网、新华网、美亚柏科、博汇科技。

金融界2023-11-06

马斯克：人工智能将会接管大多数工作，人类将不再需要任何工作

全球首届人工智能（AI）安全峰会在英国闭幕后不久，马斯克与英国首相苏纳客会见时表示，人工智能不会“抢走”人类的工作，因为到了一定的阶段之后，人类将不再需要任何工作，人工智能将会接管大多数工作，当然人类愿意的话还是随时可以工作。在他看来，人工智能替代人类工作后，将迎来一个“不缺商品和服务”的富足时代，届时“我们不是全民拥有基本收入，而是全民拥有高收入”。

金融界2023-11-04

新加坡顶级学府教授做客火币直播：AI开启Web3数字安全新范式

直播。本次直播以“Web2、Web3和AI安全的交汇：探讨未来的数字安全挑战”为主题，详细解释了AI在Web2/Web3安全领域的应用、Web3时代用户隐私和数据安全、AI的未来发展等问题。随着Web3的快速发展，保障用户数据和资产安全变得尤为重要。近来，火币HTX已通过访谈、直播等多种方式为用户提供Web3安全知识科普，同时通过与CertiK、Cobo、新火科技等业内机构合作，以保障用户资产安全，推动Web3健康发展。 Web2与Web3领域的数字安全分野直播中，刘杨教授分析认为，在过去10-20年的发展历程中，Web2领域的安全挑战是逐渐变化的，从网络安全过渡到操作系统安全，再发展到应用层安全。而Web3处于早期且快速发展的阶段，从公链到Layer2再到应用层，架构不同涉及的安全挑战不同。据其分析，Web2与Web3数字安全领域中的差异具体表现在五个方面： 1. 在去中心化的程度上，Web2的大部分服务和数据都是中心化模式，这意味着单点攻击可能导致大量数据丢失或泄露；而Web3去中心化的设计更注重合约和底层基础设施的基本安全确认。 2. 身份验证方面，Web2多使用用户名和密码进行身份验证；Web3更多采用密钥/多签验证身份。因此，Web3面对的是钱包保护以及多签系统设计的安全。另外，这种转变增加了Web3安全教育成本，尤其是在MPC钱包使用层面。 3. 在数据所有权和访问控制方面，Web2数据基本归服务提供商所有，他们决定访问权和使用权。相比之下，Web3采用开源方式，数据公开并存储在区块链上，可能引发一定的隐私问题。 4. 在系统更新和修复方面，Web2的升级更新相对容易，因为服务提供商可以随时更新服务器和软件。然而，在Web3中，由于链上数据不可更改，更新和修复变得更加困难。因此，需要新机制应对安全防护问题，例如：智能合约升级和硬分叉等。 5. 在经济激励和攻击方面，Web3采用代币经济模型，为攻击者提供了更直接的经济刺激。因此，Web3领域的安全事件和损失比Web2更显著。Web3社区需要采取更加严格的安全措施和经济激励机制来保护网络的安全。谢肖飞博士对该问题进行简单补充，他认为，在Web3领域，一个很小的漏洞可能会导致巨大的损失，需要培养开发者安全意识。另外，安全公司为开发者提供包括AI在内的尽可能自动化的算法和工具至关重要。自动化工具可以减轻开发人员的工作负担，提高工作效率，同时也可以减少人为错误和漏洞的可能性。谈及Web2和Web3之间的互操作性，谢肖飞博士表示，信任模型冲突、差异化身份验证、协议标准不同以及数据的一致性等问题，使得Web2与Web3交互变得复杂。如何应对二者各自潜在的安全风险以及统一互操作信息框架是需要考虑的问题。刘杨教授也表示，Web2与Web3的交互操作会成为安全挑战的关键点。二者交互过程中，可能会引入新的攻击面，需要具体应用场景做具体分析。 AI开启数字安全新范式 Web3时代，每个人都能通过自己的数字身份来获得信用，数据更加安全，用户也拥有更多自主权。在这一过程中，数据隐私、安全与开放问题日益突出。谢肖飞博士表示，要对用户进行数字安全教育，同时采用零知识证明、同态加密等技术技术手段解决此类问题。事实上，在Web3数字安全领域，AI同样发挥着重要的作用，并催生出新业态和新模式。刘杨教授介绍称，从传统的网络安全流量分析，到如今广泛应用的应用层漏洞分析，再到系统层云上的安全日志和行为分析，甚至在加密货币交易及区块链智能合约等方面的安全分析，AI技术都发挥了重要的作用。 AI特别是大模型，在数字安全领域中具有光明的应用前景。尽管其已表现出不俗效果，但在漏洞检测等方面仍然存在大量误报和漏报。谢肖飞博士表示，我们需要持续不断地通过数据清洗或其他方式来适应不断变化的威胁和安全环境，以及不同的应用场景，从而提高AI大模型的整体性能和质量。刘杨教授表示，AI在数字安全领域落地，有太多尝试和可能性。需要投入更多科研，同时将科研进行商业转化。最终目标是将具有基本能力的AI大模型转化为具备安全能力的专家。谈及AI的未来，刘杨教授表示，技术是把双刃剑。一项新技术需要企业、监管部门共同发力，才能成为人们可以依赖的工具。直播中，火币HTX方面表示，Web3时代，数字安全不仅是保护个人隐私和资产的关键，也是用户信任和安全地参与Web3世界的基础。火币HTX致力于为用户提供全面、易懂且实用的数字安全信息，以增强安全意识；同时提供一系列安全工具和技术支持，帮助用户更好地保护资产和信息安全。在这个充满挑战和机遇的Web3时代，火币HTX期待与用户一起探索、学习和成长。来源：金色财经

金色财经2023-11-03

苏纳克在AI峰会上警告：人工智能可能给人类带来与核战争规模相当的风险

11月1日，首届全球人工智能（AI）安全峰会在英国拉开帷幕，为期两天的会议在布莱切利庄园举行。据英国《卫报》最新消息，英国首相苏纳克2日在会议期间警告说，AI可能会给人类带来与核战争规模相当的风险。《卫报》称，苏纳克表示，他对先进的AI模型给公众带来的风险感到担忧。报道说，这与该领域内一些资深人士最近发出的警告相呼应。“开发这项技术的人们已经提出了AI可能带来的风险，重要的是不要对此过于危言耸听。关于这个话题存在争议。业内人士对此看法并不一致，我们也无法确定。”苏纳克告诉记者，“但有理由相信，它可能会带来与大流行病和核战争规模相当的风险，这就是为什么，作为领导人，我们有责任采取行动，采取措施保护人民，这正是我们正在做的事情。”

金融界2023-11-02

中国多名科学家共同签署一份重磅声明，他们对AI监管释出了什么信号？

开发者花费他们研究预算中的30%，用于AI安全建设上。报道提到，这些提案比美国总统拜登本周发布的AI行政命令，其中包括算法歧视和劳动力市场影响，以及欧盟拟议的AI法案，其中重点保护隐私等权利，更关注于AI存在的风险。该声明还比英国首相里希·苏纳克(Rishi Sunak)为峰会起草的AI安全公报草案走得更远，该公报没有呼吁各国政府实施具体监管。 “这些措施是在中美之间围绕关键技术的紧张局势加剧之际，中国可能对全球AI监管采取立场的早期迹象，”英媒评论称。该联合声明的重点与中国国内AI法规的重点不同，中国国内的AI法规侧重于内容控制和审查。中国最近宣布了自己的全球人工智能治理倡议，该倡议凸显了美国对中国芯片出口管制造成AI采用障碍的不公平，这一立场将受到美国及其盟友的强烈质疑。这份联合声明背后的学者们于10月聚集在牛津附近的迪奇利公园乡村别墅，该声明也由蒙特利尔大学的Yoshua Bengio等西方专家签署。他们在布莱奇利公园举行峰会之前会面，共同商定了立场。作为该声明的组织者之一，Yao表示：“在从应对环境破坏中吸取了教训后，我们应该作为一个国际社会共同努力，确保AI的安全进步。” 清华大学院长、科技巨头百度前总裁Ya-Qin Zhang表示，有必要确保未来的通用AI“安全可信”。尽管中国并未出现在峰会第一天的与会者名单上，但熟悉中国政府的消息人士称，该国科技部将出席。外英国《金融时报》看到的英国公报草案并未提出监管建议，但确实警告先进或“前沿”AI模型可能造成“严重甚至灾难性的伤害”。苏纳克希望峰会上的政界人士能够签署该公报，其中包括加拿大、印度、韩国、日本、新加坡、西班牙、美国和欧盟的政界人士。OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)和推特老板埃隆·马斯克(Elon Musk)等科技高管预计也将出席。美国副总统卡玛拉·哈里斯(Kamala Harris)在周三于伦敦发表的演讲中表示，尽管AI具有带来深远好处的潜力，但它也有可能造成深远的伤害，因为AI支持的网络攻击规模超出了人们以前见过AI配制的武器，可能危及数百万人的生命。根据英媒看到的哈里斯演讲摘录指出，这种风险可能危及人类的生存。“毫无疑问，这些威胁是深远的，需要全球采取行动。”

颜辞2023-11-01

拜登政府发布新的AI行政命令称确保AI将为美国人服务

该命令将采取有史以来最全面的行动，为 AI 安全和保障制定了新标准，保护美国人的隐私，促进公平和公民权利，维护消费者和工人的利益，促进创新和竞争，提升美国在世界各地的领导地位等。让 AI 为美国人民服务。美国政府在AI.gov官网中指出，AI 是拜登的首要任务。拜登已明确表示，美国必须采取大胆行动，利用 AI 的好处并降低其风险，保护 AI 时代的安全和权利，让每个人都能从 AI 的承诺中受益。美国政府高级官员在简报会上表示，安全准则主要适用于未来的 AI 模型，并不会召回公开的现有模型，但现有的 AI 模型仍然受到反歧视规则等法规约束。具体来说，新的美国 AI 行政命令包含八个内容目标：AI安全与安全性新标准；保护美国人的隐私；推进平等和公民权利；维护消费者、病人和学生的权益；支持工人；促进创新和竞争；在国外推进美国的领导地位；确保政府对AI的负责任和有效使用。钛媒体App简单梳理了其中的核心规则如下： AI安全与安全性新标准：要求开发高级AI系统的公司与美国政府分享安全测试结果等信息；制定AI系统的安全、安全性和可信度的标准、工具和测试；针对使用AI的生物材料风险制定新标准；针对AI生成的内容制定标准，并明确标记；开展AI网络安全程序；开发一个涉及AI与安全的国家安全备忘录。保护美国人的隐私：加强对隐私保护技术的支持和研究；评估并加强联邦机构的隐私指南。推进平等和公民权利：提供指导以防止AI算法加剧歧视；通过培训和技术援助解决算法歧视问题；在刑事司法系统中确保公平性。维护消费者、病患和学生的权益：推动 AI 在医疗保健领域的负责任应用，并开发负担得起的救生药物；通过创建资源来支持教育工作者部署 AI 支持的教育工具（例如学校的个性化辅导），塑造 AI 改变教育的潜力。支持工人：制定准则和最佳实践，以减少AI对工人的潜在负面影响；对AI在劳动力市场的影响进行研究。促进创新和竞争：通过研究资金和其他手段支持AI研究；促进公平、开放和竞争的AI生态系统；优化签证程序，吸引外国人才。在国外推进美国的领导地位：与其他国家合作，确保AI的安全和可靠部署。确保政府对AI的负责任和有效使用：对政府机构使用AI的指导；提高AI产品和服务的采购效率；加快AI专业人才的招聘。据悉，国家标准与安全研究所（NIST）将负责制定标准，以便在公开发布之前对 AI 模型进行"红队"测试，而能源部和国土安全部则负责应对 AI 对基础设施的潜在威胁，以及化学、生物、辐射、核和网络安全风险。新规要求，包括OpenAI的GPT，Meta的开源模型Llama 2等大模型开发者必须分享安全测试结果。而且，美国政府还计划要求各机构解决失业问题，并就 AI 对劳动力市场的影响编写一份报告。白宫希望鼓励更多工人在 AI 生态系统中工作，提供研究资源、关键信息和技术援助。目前，美国政府已公布《AI 权利法案蓝图》、《NIST AI 风险管理框架》、《国家 AI 研发战略规划》、《国家 AI 研究资源路线图》等 AI 相关法律规定。另外，拜登政府早前还与Meta、谷歌、OpenAI、英伟达和Adobe等多家 AI 公司之间达成一系列监管协议。另外，白宫称，在美国推进这一形成命令的同时，过去的几个月中，美国已广泛地就 AI 治理框架与其他国家地区进行磋商，涉及的国家和地区20余个：包括澳大利亚、巴西、加拿大、智利、欧盟、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国。白宫强调，拜登最新发布的 AI 行政命令，是美国在安全、可靠和可信赖 AI 方面向前迈出的重要一步。下一步，美国政府需要将采取更多行动，并继续与国会合作寻求两党立法，帮助美国在负责任的科技创新方面发挥引领作用。来源：金色财经

金色财经2023-11-01

英国首相苏纳克：将在AI安全峰会后与马斯克对谈

有消息称，马斯克将参加本周在英国举行的AI安全峰会。

金融界2023-10-31

事关美国15家科技巨擘！拜登突发重大行动：美国历史第一份AI行政命令问世

中表示，该命令代表了“世界上任何政府在AI安全和信任方面采取的最强有力的一系列行动”。它建立在白宫之前从领先AI公司获得的自愿承诺的基础上，代表着政府对该技术采取的第一个具有约束力的重大行动，它还发生在英国主办的AI安全峰会之前。里德提到了15家美国主要科技公司已同意实施自愿AI安全承诺的事实，但表示这“还不够”，周一的行政命令是朝着对该技术开发进行具体监管迈出的一步。他继续阐述道：“几个月前，拜登指示他的团队动用一切手段，这就是该命令的作用，将联邦政府的权力运用到广泛的领域，以管理AI的风险并利用其好处。” 拜登周一在白宫发表讲话时表示，他将于周二与纽约州参议院多数党领袖查克·舒默(Chuck Scumber)组建的两党小组会面。他表示，这次会议是为了“强调国会采取行动的必要性”。他也补充说：“这项AI行政命令代表了大胆的行动，但我们仍然需要国会采取行动。” 报道踢打，拜登的行政命令要求大公司在正式发布AI系统之前与美国政府分享安全测试结果，它还优先考虑国家标准与技术研究院制定AI“红线”标准，即对系统内的防御和潜在问题进行压力测试，商务部将制定AI生成内容的浮水印标准。该命令还涉及大型AI系统的培训数据，并提出需要评估各机构如何收集和使用商业可用数据，包括从数据经纪人购买的数据，特别是当该数据涉及个人标识符时。拜登政府还正在采取措施增强AI劳动力，据美国高级政府官员表示，从周一开始，拥有AI专业知识的工作人员可以在AI.gov上找到联邦政府的相关职位空缺。美国政府官员周日表示，该命令的某些安全和保障方面的“最激进”的时间安排包括90天的周转期，而对于其他一些方面，该时间范围可能接近一年。瑞银研究显示，自AI聊天机器人ChatGPT于2022年11月病毒式推出以来，其在两个月内成为历史上增长最快的消费者应用程序，生成式AI的广泛采用已经引发了公众的担忧、法律斗争和立法者的质疑。#ChatGPT火爆全网# 举例而言，在微软(Microsoft)将ChatGPT纳入其Bing搜索引擎几天后，它因有毒言论而受到批评，流行的AI图像生成器也因种族偏见和传播刻板印象而受到批评。

小萧2023-10-31

24小时热点