Edge AI方兴未艾 高通全面拥抱生成式人工智慧
生成式AI正式攻占科技产业，无论那个领域都需要导入，行动通讯终端亦不例外。根据高通技术的统计，该公司的物联网专用晶片组出货量已超过3.5亿，并已扩展至各产业领域。透过释放智慧边缘的无限潜力，高通为客户提供端对端的解决方案，以最佳化其营运模式、协助做出资讯更充足的商业决策、不断推动以全新方式创新，共同为促进台湾数位转型与经济成长而努力。……
AI EXPO Taiwan 2024 齐聚产官学领袖制高视野 抢占 AI 新经济时代先机
AI 狂潮引领全球经济脉动。这场智能、自动、数据驱动的技术革命正在重新塑造各行各业的运作方式，并开创出一系列全新的商业模式与价值链。如何善用 AI 为企业带来实质价值、扩展商业规模，已成为众所注目的焦点。
「台湾人工智慧博览会(AI EXPO Taiwan)」是由 DIGITIMES、财团法人人工智慧科技基金会、IC 之音竹科广播携手主办台湾最具指标性的 AI 盛会。自 2022 年开始，这场博览会就一直引领业界探索AI发展的前沿，聚焦应用趋势与技术发展变化，承载历年深度讨论累积的洞见与经验，今年将以「AIvolution 全面进化」为主轴，勾勒 AI 创新经济的未来蓝图。
高通, AWS, AMD, NIVIDA, 联发科齐聚接力担任论坛讲者
AI EXPO Taiwan 2024 将齐聚产官学界的领袖巨擘，包含高通副总裁暨台湾、东南亚与纽澳区总裁刘思泰、国立台北科技大学管理学院院长范书恺，国立台湾大学资工系副教授陈縕侬、国立成功大学资讯工程系教授苏文钰，AWS、AMD、NIVIDA 等科技巨擘，分享对 AI 生态系的洞见与生成式 AI 落地应用案例。活动展区则召集 AWS JIC、数位发展部数位产业署、新北市青年局、人工智慧晶片联盟、区块链爱好者协会等超过 50 家 AI 新创团队，展示出 AI 创新应用的无限可能性，彰显产业的新兴动能。
AI
…最强 AI 助理—— Monica！内容统整、文章生成、留言回覆一键即时解决？
你用 ChatGPT 用腻了吗？最近我发现了一个更强大的 AI 助理，不用学习复杂的提示技巧，答案随传随到！
隆重向你介绍，Monica，它本来只是浏览器上的 GPT-4 外挂套件，前阵子同步推出了微软跟苹果的桌面版应用程式，按下快速键，就可以立即提问，我觉得是目前市面上最好用的 AI 助理程式，本支影片要来带你熟悉快捷操作、提问技巧以及文章生成这三个 Monica 的特色功能。
我把本支影片分成三个看点
- 快捷操作懒人教学
- Monica vs MacGPT
- 打趴微软的文章生成与主题回覆
就让我们开始吧！
—–广告，请继续往下阅读—–
今天跟你分享了 Monica 这套基於 GPT 技术的服务，还拖了微软 Bing AI 跟 MacGPT 出来当对比，你觉得 Monica 会是你心目中的最佳 AI 助手吗？
- Shut up and take my money,
Google新框架ASPIRE有效让AI自我评估输出对错
Google公开专为大型语言模型设计的ASPIRE框架，该框架可以强化语言模型的选择性预测（Selective Prediction）能力。透过对问答任务的大型语言模型进行参数微调，以评估所生成答案的正确性，ASPIRE框架在各种问答资料集上，表现优於目前最先进的选择性预测方法。ASPIRE框架的重要性在於能够增加大型语言模型的可信程度，让人工智慧可在关键应用发挥作用。
大型语言模型在自然语言理解和生成领域发展迅速，已经被用於建立各种创新应用，但是要进入高风险决策应用，仍有障碍待解决。研究人员指出，由於模型预测具有不确定性，大型语言模型缺乏评估回应可信度的机制，就算可以透过总结序列中各个Token的可信分数加总，但是仍无法可靠地辨别正确或是错误答案。
而选择性预测是这个问题的解决方案，大型语言模型输出答案时加上选择分数，而这个分数能指出答案正确的机率，因此藉由选择性预测更可以了解在各种应用中部署大型语言模型的可靠性。过去像是语义不确定性和自我评估等研究，试图在大型语言模型中实现选择性预测，不过，传统方法采用启发式提示，试图藉由「建议的答案是对还是错？」等问题，触发大型语言模型的自我评估，但是这种方法不适用於具有挑战性的问答任务。
Google研究人员发展出ASPIRE框架来解决这个问题。该框架有三个阶段，分别为特定任务调整、答案采样和自我评估学习。特定任务调整阶段是对已经受过基础训练的大型语言模型进行进阶训练，就像是让已经具有基本知识的学生进行进阶训练，专注於强化特定科目或是任务，研究人员透过添加新的可调参数，并使用高效的参数调校技术，在特定任务的训练资料集上微调预训练大型语言模型，以提高其预测效能，这个阶段相当於训练学生，使其更好地解决特定问题。
第二阶段则是答案采样，经过特定任务调整後，ASPIRE使用学习到的可调参数，对每个训练问题生成不同的答案，并创建用於自我评估学习的资料集，生成高可能性输出序列。也就是说，让学生尝试回答一系列问题，并产生不同的答案，藉由尝试不同答题方法，找出最可能正确的答案，研究人员使用一种称为集束搜寻（Beam Search）方法，协助学生选择最有可能的答案，并使用一种称为Rouge-L的演算法来评估答案的品质。
在最後的自我评估学习阶段，ASPIRE新添加一组可调节参数，专门用於提升模型自我评估的能力。该阶段的目标是要让模型学会自己判断答案准确性的能力。透过该训练，大型语言模型不仅能生成答案，还能够自己区分答案的正确性，在回答使用者问题时达到更好的可靠性和准确性。
研究人员验证ASPIRE的成果，使用CoQA、TriviaQA和SQuAD三个问答资料集，并使用各种开放预训练的Transformer模型来评估ASPIRE。经过ASPIRE调整的小型OPT-2.7B模型，表现超过更大的OPT-30B模型（下图）。这项实验结果表示，只要经过适当的调整，即便是较小的语言模型，在部分情境下也可以超越较大的语言模型。
值得注意的是，OPT-30B模型应用传统的自我评估方法Self-eval和P(True)，选择性预测的效能并没有明显提高，反而是较小的OPT-2.7B模型在使用ASPIRE进行强化後，优於其他模型，也就是说，运用传统自我评估技术的较大型语言模型，选择性预测效果不如采用ASPIRE强化方法的小模型。
研究人员实验强调了ASPIRE对於大型语言模型的重要改变，语言模型的能力并非其表现的最终效能，透过调整策略就可以大幅提高模型有效性，即便是较小的模型，也可以进行准确且有自信的预测。…
泰国真实故事改编鬼片《鬼声泣》，故事本尊：「50年前我的家族真实经历，她突然对我的母亲诡异的笑。」
全球首部IMAX泰国鬼片《鬼声泣》（Death Whisperer）改编自北碧府家族真实灵异故事，预告开头获得现实生活中的Krittanont家族幸存者後代授权，亲口献声：「50年前我的家族真实经历，妍恩阿姨不断念着『听呀』，她突然对我的母亲诡异的笑，我母亲发现坐在那的，不是妍恩，不是她妹妹！」当年仍是国中生的阿姨妍恩在放学路上意外卡到阴，原本性情温顺的她，犹如猛鬼附体变成全身虚弱暴力易怒，半夜还会念着诡异的咒语「听呀」，让全家人瞬间昏迷倒地不起，电影将於明年1月19日全台上映。
电影《鬼声泣》故事真实发生在1972年泰国北碧府的家庭惨案，偏远乡村务农的夫妻育有三男三女，某天村庄谣传的女鬼竟意外缠上大妹妍恩，为了救回大妹，全家人陷入阴魂不散的诡音梦魇.。最初被Krittanont家族後代Kit先生发表在泰国网络论坛Pantip.com上，故事一发布後引起网路社群疯传，吓坏千万名网友，挟带高人气不仅出版成畅销书籍外，更在今年翻拍成电影。10月底在泰国首映现场，原型故事的大姊本人（Kit先生的母亲）更亲自现身观影，Kit先生贴文写道：「书本和电影中故事的真正主人。」让泰国社群瞬间炸锅，网友直呼：「更毛骨悚然了！」
继2013年《阴巢》後，塔伟华温泰（Taweewat Wantha）重执导演筒拍摄《鬼声泣》，电影历经3年制作期，导演坦言杀青前夕，银行曾一度只剩下100泰铢，他笑说如果没有熬过拍摄期间的艰辛，他可能就要去开面店不拍电影了。睽违10年，导演成功递上口碑票房双收的新作，成为泰国亿万票房导演之一，他讶异表示：「我和我的团队从没想过的票房会如此成功！」也提及电影里的鬼十分特别与真实，让他一心一意要拍完这部作品：「《鬼声泣》跟影史恐怖经典《鬼玩人》的鬼很像，会疯狂戏弄嘲讽人、侮辱性极强，同时结合观众喜爱的驱魔打鬼桥段，不会让大家失望！」
…
Tesla 推出「Cybertruck」配件：BaseCamp、车身贴纸等等
Tesla 终於公布了 Cybertruck 的价格、续航里程、配置等详细资讯，现在这款皮卡终於到了那些耐心等待四年的人手中，同时也推出了相应的配件。
在 Tesla Cybertruck 商店中，最引人注目的选择包括 Cybertruck BaseCamp、两种不同的车身贴纸选项、储物解决方案和尾门坡道。Tesla Cybertruck BaseCamp 是一个非常适合计划使用该车辆进行露营或类似户外活动的选择：
「将营地随身携带，Cybertruck BaseCamp 帐篷采用超轻型的几何气架设计，只需使用手动泵即可在几分钟内充气，无需任何结构柱。战术灰色万花筒图案尼龙内饰可保护 你免受外界因素的侵扰，而萤幕窗口可提供通风，让 你保持舒适。躺在超柔软的床垫上，欣赏星空的美景。」
售价 2975 美元的 Cybertruck BaseCamp 对於计划在 Cybertruck 中度过几个晚上的人来说是一个很好的配件选择。
Tesla Cybertruck 车身贴纸一直是过去几年的猜测话题。几年前， Elon Musk 表示我们将能够用任何颜色或图案来贴紮 Cybertruck。目前， Tesla 表示只提供黑色或白色。
「使用我们的高级色彩涂料膜为 你的 Cybertruck 贴紮，这些膜只能通过 Tesla …
AWS更新程式开发辅助服务CodeWhisperer，现可侦测并协助修复已知程式码漏洞
AWS现在正式推出程式开发辅助服务CodeWhisperer，该服务在去年6月释出预览版，经过一年多的改进加入多项新功能，像是提供发现和修复程式码漏洞的能力，还新增了基础设施即程式码（Infrastructure as Code，IaC）支援，并且预览Visual Studio整合功能。
CodeWhisperer是一个以机器学习技术为核心，并且利用开源储存库、Amazon自有储存库、API文件和论坛数十亿行程式码训练而成的程式开发辅助服务。CodeWhisperer会根据程式码和注解，依据开发者的程式编写风格和变数名称，提供程式码建议。CodeWhisperer预览版支援的语言有Python、Java、JavaScript，开发者可选择在熟悉的各种IDE上使用。
预览版CodeWhisperer透过内建的安全扫描功能，能发现诸如暴露的凭证和日志注入等问题，而AWS现在释出的正式版CodeWhisperer加入漏洞缓解功能，进一步使用生成式人工智慧来产生程式码建议，协助开发者修复已知的安全性和程式码品质问题。
在发现漏洞之後，CodeWhisperer便会根据用户的程式码，提供专属修复建议，开发者可以接受建议，快速修复该漏洞。目前新版中的安全扫描功能，除了之前的Java、Python、JavaScript，现在还新增支援TypeScript、C#、AWS CloudFormation、AWS CDK和HashiCorp Terraform，而漏洞缓解功能则是针对Java、Python和JavaScript程式码漏洞提供修复建议。
CodeWhisperer现在也支援基础设施即程式码，强化开发者脚本编写效率，开发者可将其用於AWS CloudFormation、AWS CDK和HashiCorp Terraform工具，以编写基础设施程式码，官方提到，由於CodeWhisperer支援多种基础设施即程式码语言，因此可以促进不同团队间的协作和一致性。
开发者现在已经可以於Visual Studio 2022中使用CodeWhisperer，获取C#即时程式码建议。此外，新版本也让开发者可以更负责任地编写程式码，供开发者注记可能由公开可用程式码组合而成的程式码段落，并提供类似程式码的储存库URL和授权资讯（下图）。
CodeWhisperer最近的更新也针对Git、npm、AWS CLI和Docker等命令列介面工具，添加即时程式码自动完成和内嵌文件（Inline Documentation）。CodeWhisperer也已经可以将自然语言翻译成壳层程式码，以更直觉地方式使用操作命令列工具。…
机器人如何从工厂内外推动世界更美好
日新月异的机器人技术与半导体，帮助我们提高了生活效率。从工厂车间到办公室，甚至是家中的客厅，机器人系统正重新定义我们的生产力极限，同时重塑人与人之间及我们与世界的互动方式。德州仪器近期举行机器人趋势圆桌会议，讨论机器人未来。
德州仪器机器人系统经理Matthias Thoma表示，自从50多年前安装第一部工业机器人以来，我们有着长足的进展。机器人变得更智慧、更精确、对环境的反应更灵敏，能与人类进行更密切的协作。
为了满足现代世界的需求，工厂必须变得更有效率、加强连线，也必须提升作业人员的安全。移动式机器人技术的进步正帮助现有的工厂最佳化，同时重构未来的工厂。
Matthias表示，过去的工厂围绕着大型输送带建造，靠这些输送带将产品送到各条装配线。现在有了机器人移动平台，则可以根据产品的配置，在工厂车间中从一个工作站移到另一个工作站。这不只减少制程中的瓶颈，还带来更高的弹性。
这些移动式机器人通常能自主导航，有时则会靠近其他机器人和人类。要在繁忙的工厂车间内安全移动，需要靠摄影机和雷达、光达和超音波感测器搭配运作。
设备、建筑和零售自动化系统总经理Giovanni Campanella表示，想像一下，蒙着眼睛走进一个新区域，有很可能会撞到东西。机器人要是没有感测器，就会是这种情况。机器人必须具备高阶环境感知和备援能力，光是配备几个感测器是不够的，机器人需要结合不同的感测技术，才能掌握环境的全貌。
协作机器人(Cobot)并不是新的机器人应用，但其在整座工厂内的使用案例越来越普遍，也更为接近人类。使用协作机器人自动执行重复性任务，可以提高人类生产力，但也带来新的安全考量。
Arm Cortex-R微控制器产品系列经理Mike Pienovi表示，基於安全的考量，在节奏明快的工厂环境中，大部分感知的「所有权」必须来自机器人。人类是不可预测的，因此在人类周围作业的机器需要有感知能力，且能因应不同情况做出反应。因此，功能安全性对这些系统来说是很重要的设计考量。
要设计出能安全地评估并回应环境的协作机器人，需要仰赖来自其他机器人系统的基本技术：具备多种模式的感测器，可准确感知、精准控制马达、可靠移动，还有即时通讯可快速传输讯号。
Giovanni表示，再过不久，到饭店办理入住或在餐厅点餐时必须与机器人互动将会是稀松平常的事。目前已看到机器人在非工厂领域的成长，最常见的就是扫地机器人和自助资讯站。机器人有着巨大的潜力，可进一步强化人类世界的几乎各个层面的体验。
除了家庭和餐厅，机器人更常用於人类无法安全进入的严峻环境，例如火山，甚至是太空。机器人也跨入到更多的医疗环境。Matthias表示，机器人现在所做的一些工作，移动必须更精准。例如，手术机器人已经能用於进行微创手术，这类手术需要极细微的移动，有时只有几毫米。
创新半导体是每个新型机器人应用的核心，有助於实现精准且节能的马达控制、正确的感测，以及可靠的有线和无线连接。
随着现代机器人技术日益进步，我们从未如此接近曾经只可能出现在科幻小说中的未来，而这趟旅程才刚开始。机器人只会变得反应越来越快、更智慧化且经济实惠，在我们生活中的应用潜力只会日益增加，帮助所有人享有更安全、更有效率的生活。…
OpenAI 开发者大会亮点、酷澎改变今年双 11 战局、披头四用 AI 技术创作新歌｜塞掐 Side Chat｜E186
本集来聊：
- OpenAI 首次开发者大会 DevDay 上正式开放了 ChatGPT 的客制化功能「GPTs」
- FTX 创办人 SBF 诈欺、洗钱等七项罪名成立！
- 《Now And Then》是以现代化人工智慧技术创作的披头四最新单曲
喜欢我们的 Podcast 塞掐 Side Chat 吗？有什麽想法欢迎来信、来讯跟我们说！也可以透过 INSIDE 硬塞的 Facebook、Instagram、YouTube 留言给我们。
…
美禁令之前，传百度AI晶片已从Nvidia转向华为下单
百度
《路透社》报导，早在美国AI晶片禁令之前，百度已经将AI晶片订单由Nvidia转向华为。
10月美国发布最新禁令，禁止一定运算速度以上的晶片输入中国，直接影响Nvidia、AMD等业者。美国先是公布1个月缓冲期，但一周後又传出美取消缓冲期立即生效。消息所至引发Nvidia股价大跌。
周二路透社引述二消息人士报导，其实早在8月，中国网际网路巨人百度内部已经下令其AI系统文心一言（Ernie）使用的晶片，改向华为采购昇腾（Ascend）910B系列AI晶片。Ascend 910B晶片最大算力为256TFLOPS，相当於Nvidia A100。
报导指出，百度为200台伺服器采购了1,600颗华为AI晶片，其中60%约1,000颗已经在10月底前出货，华为预计在年底交付所有晶片。另一名消息人士指出，这波下单金额约为6,200万美元。
虽然这波采购量并不算大，但报导指出，这显示中国业者已逐渐有能力摆脱对美国技术的依赖。美国祭出晶片及软体出口禁令後，华为转而推动作业系统及晶片研发。外界拆解华为今年9月推出的旗舰手机Mate 60 Pro，使用的是自行研发的麒麟9000及鸿蒙4.0作业系统。
路透社9月报导，华为集团的海思半导体（HiSilicon）已研发自制内建於监控摄影机的晶片，并已出货给客户。…