هزینه های عملیاتی AI را با یک سرور استنتاج مجازی در ظرف Red Hat ذخیره کنید
[ad_1] در اجلاس سالانه خود (20 تا 21 مه در بوستون) ، رد سرور استنتاج را برای مدل های AI آموزش دیده معرفی کرده است که با پلت فرم و با نیازهای سخت افزاری کم کار می کند. این سرور مبتنی بر پروژه مجازی LLM (VLSM) است که نه تنها مدل های استنتاج را مجازی…