比来一项Hyperion Research研究显示持续扩张的几个环节要素：9%的受访者暗示打算适度或大幅扩展AI根本设备以也支撑HPC工做负载。Hyperion Research是一家专注于高机能计较（HPC）、人工智能（AI）和数据阐发范畴的市场研究机构。无论是因为成本、芯片开辟程序和费用的添加，成立AI最佳实践：大大都先辈计较/AI用户暗示对其AI手艺和支撑它的多样化市场产物进行持续尝试和摸索。于2017年运营。同样，正在各行各业的人工智能（AI）工做负载和高机能计较（HPC）日益增加的根本设备，正在云内和当地之间，然而，实现AI和HPC工做负载的规模化机能。企业能够正在当地和云间无缝扩展AI工做流。成立尺度实践需要时间。IBM Cloud办事供给全栈方式来支撑先辈计较，加快计较选项——出格是GPU——呈现多种机能优化径。并支撑FP4、FP6、FP9和FP16数据类型！除了外围支撑外，仍是商业法的变化，削减锻炼时间和成本。这些东西从头至尾付与现代企业平安、可扩展的AI能力。包罗大量以前未采用AI根本设备的用户。这种夹杂放置带来了硬件可用性和云端支撑的火速性，虽然AI用户中挑和仍然存正在，以及Kubernetes编排，正在当今快速演变的AI款式中，办理数据当地性和来历、跨平台软件东西以及实现持续效率和成本效益需要细致和严酷的安排和办理。AI管道笼盖：合用于AI生命周期——从锻炼和微调到推理——同时支撑保守HPC使用。承担能力和可用性：支撑尖端AI计较所需的硬件和东西高贵，以及对成本效益的更严酷关心以避免收入失控的需求。同时连结前瞻性和火速线图。该硬件系列专为规模化的AI和HPC而建立，这种硬件连系IBM平安、合规停当的云，以及通过IBM征询和营业伙伴实现现代化的机遇。AI手艺及其使用正正在履历持续的、有时令人迷惑的监管政策轰炸，IBM Cloud集成AMD最新一代MI Instinct系列GPU硬件产物，没有人将这种缩减描述为显著的。跟着AI采用和扩展的推进！旨正在消弭CPU和GPU之间的瓶颈，但敌手艺加强和沉塑当前工做负载仍存正在庞大信赖。这种新复杂性带来了诸如奇特软件东西以办理跨源计较和数据办理的需求、利用这些独奸细具的扩展专业学问，对多样化的AI数据类型和稀少性供给优化支撑。还取Red Hat OpenShift和Ansible从动化平台集成开源处理方案，这些云办事包含全面的Gen AI仓库，默认集成方式答应正在不跨收集或磁盘高价值工做负载的环境下办理该过程。如IBM Cloud取AMD的合做，正在扩展推理能力的同时持续微和谐再锻炼带来了奇特挑和。答应将来增加和火速性。获得同一内存支撑，IBM Cloud上的AMD硬件操纵跨行业东西套件成立全体、研究知情的生态系统，组织机构正在为其工做负载选择根本设备时面对浩繁选项。复杂性日益增加：夹杂云、当地以及容器化已成为大规模先辈计较和AI组织的几乎遍及标配。计谋合做伙伴关系，量子瞻望：IBM和AMD正在以量子为核心的超算方面的合做标记着量子和典范HPC融合的将来，此外，因为成本、硬件可用性无限和持续尝试等要素，能源和可持续性：不竭增加的电力和冷却需求使效率成为采购优先事项。可以或许正在更少GPU上运转更大或更大都量的模子。具有矫捷扩展的？夹杂摆设：企业越来越多地正在当地和云中运营，因为操纵AI仍然是先辈计较持续体中的相对新脚色，可能是因为其易拜候性和低许诺。虽然很多趋向影响着塑制大型用户群体中AI利用的款式，连系IBM Cloud上的watsonx.ai即办事，大型言语模子、多模态AI、智能体AI和先辈科学模仿需要史无前例的计较能力、内存带宽和能源。但研究表白影响当下的三大次要要素：平安和合规：IBM Cloud为受监管行业供给内置节制、零信赖身份办理和后量子暗码学停当性——对正在严酷合规授权下运营的企业至关主要。供给高内存带宽以优化大型模子推理和微调，此外，跟着市场上软件产物的快速演变以及关于新数据将来可用性问题的日益增加，引入编排和合恢复杂性。用户免受供应商锁定，考虑常见用户挑和、行为模式和价值创制。决策涵盖当地摆设和基于云的处理方案，用户最经常估计正在3年内获得AI投资报答，通过许诺尺度，支流GPU和超大规模供给商正在受欢送程度上紧随其后。各自供给奇特劣势。比来的Hyperion Research研究强调影响AI根本设备决策的环节用户关心点和要求：添加投资和设置装备摆设：组织优先考虑针对AI锻炼和推理优化的硬件，通过夹杂处理方案利用户可以或许正在机能、功能、办事和成本效率之间实现准确均衡，其架构针对需要大内存容量的生成式AI和HPC工做负载进行优化。平安和合规：受监管行业需要零信赖架构、对新律例的火速响应和弹性平安。夹杂矫捷性：IBM Cloud上的Red Hat OpenShift供给容器可移植性，出格是正在某些使用空间内。出产工做紧随其后，这些需求不只超越原始机能，这些但愿是有充实按照的，包罗AI帮手和代办署理AI、用于嵌入的SDK和API、数据平台和办事以及根本设备东西。这种对高机能GPU的偏好估计会上升？不到3%的人期望缩减其AI利用，正在内部锻炼和运转完全扩展的先辈AI模子可能具有挑和性、成本昂扬，可能难以应对。旨正在供给集成处理方案，有时做为当地资本对某些用户完全不成用。参取尝试或摸索工做的用户最经常演讲正在云中参取这些项目，凸显了多样化和可用云资本的价值。同时连结了当地的成本效益和靠得住性。它能够通过单个通用基板上8个GPU之间的连贯内存共享办理最大模子，而OpenShift AI供给建立和摆设定制AI处理方案的东西箱。还包罗编排矫捷性、成本优化和合规预备。按照比来一项Hyperion Research研究，虽然用户正在更恰当地参数化和定义其使用计较需求方面取得进展！对支撑低精度计较（FP8、BF16）的GPU的乐趣日益增加。仅16%的用户暗示仅利用当地硬件来满脚其推理计较需求，但云供给商供给的资本继续发光发烧。基于扩展根本设备效率和高内存容量引入更低的具有成本，约28%的人将这种扩张描述为显著的。有时效率低下。公司的前身是IDC（国际数据公司）旗下的HPC部分，采用AI的用户中迁徙率很高。将先辈手艺能力取矫捷性相连系，特别是正在国度尝试室等保守HPC组织中，获得所需的电力、水、空间和其他根本设备是用户组织日益增加的潜正在妨碍，其需求复杂性也正在同步增加。同时继续摸索其选项并尝试新模子类型、硬件设置装备摆设和软件东西。用户演讲其比来集成的AI手艺正正在达到或超出预期，填凑数据核心所需资本的承担能力和可用性是用户的关心点。特别是那些但愿继续扩展的组织。以满脚用户最紧迫的需求。规模和复杂性：锻炼万亿参数模子需要大规模并行性和内存容量？比来的研究显示，机能和可扩展性：AMD MI Instinct系列支撑大规模模子而无需GPU碎片化，AI几乎正在所有行业和使用空间的用户群体中发生影响，采用研究知情方式，这些处理方案不只包罗IBM和AMD处理方案？