Red Hat, Red Hat Aİ ile Hibrit Bulutta Kurumsal Yapay Zekaya Güç Katıyor

Red Hat, Inc., hibrit bulutta yapay zeka tahlillerinin geliştirilmesini ve dağıtımını hızlandırmaya yardımcı olmak için tasarlanan ürün ve hizmet portföyü Red Hat Aİ’daki en son güncellemeleri duyurdu. Red Hat Aİ, model eğitimi ve çıkarımı için daha fazla verimlilik, kolaylaştırılmış bir deneyim ve hibrit bulut ortamında her yere dağıtma esnekliği sunan kurumsal bir yapay zeka platformu sağlıyor.

İşletmeler, artan sayıda kullanım senaryosu sorusuna cevap bulmak için büyük dil modellerini (LLM’ler) geniş ölçekte dağıtmanın maliyetlerini azaltmanın yollarını ararken bile, bu modelleri bu kullanım senaryolarını yönlendiren özel bilgileriyle entegre etme ve aynı zamanda bu verilere bir veri merkezinde, genel bulutlarda veya hatta uçta nerede olursa olsun erişebilme zorluğuyla karşı karşıya kalıyorlar.

Hem Red Hat OpenShift Aİ hem de Red Hat Enterprise Linux Aİ’yı (RHEL Aİ) kapsayan Red Hat Aİ, kullanıcıların daha verimli ve optimize edilmiş modelleri benimsemelerini sağlayan, işletmeye özgü veriler üzerinde ayarlanmış ve daha sonra çok çeşitli hızlandırılmış bilgi işlem mimarilerinde hem eğitim hem de çıkarım için hibrit bulutta dağıtılabilen bir kurumsal Aİ platformu sağlayarak bu kaygıları gideriyor.

Red Hat OpenShift Aİ, makine tahsili operasyonları (MLOps) ve LLMOps yetenekleri dahil olmak üzere hibrit bulut genelinde varsayıma dayalı ve üretken yapay zeka yaşam döngülerini yönetmek için eksiksiz bir yapay zeka platformu sağlıyor. Platform, veri bilimi ve model işlem çizgileri ile model izlemeden yönetişim ve daha fazlasına kadar yapay zeka model idaresini kolaylaştıran araçlarla birlikte iddiaya dayalı modeller oluşturma ve genel yapay zeka modellerini ayarlama fonksiyonelliği sağlıyor.

Platformun en son sürümü olan Red Hat OpenShift Aİ 2.18, Red Hat Aİ’ın hibrit buluta daha iyi optimize edilmiş ve daha verimli Aİ modelleri getirme gayesini desteklemek için yeni güncellemeler ve yetenekler ekliyor. Temel özellikleri şöyle:

• Dağıtılmış hizmet: vLLM çıkarım sunucusu aracılığıyla sunulan dağıtılmış hizmet, BT ekiplerinin model hizmetini birden fazla grafik işlem ünitesine (GPU) bölmesini sağlıyor. Bu, tek bir sunucu üzerindeki yükü azaltmaya yardımcı oluyor, eğitimi ve ince ayarı hızlandırıyor ve yapay zeka modelleri için hizmetlerin düğümler arasında dağıtılmasına yardımcı olurken bilgi işlem kaynaklarının daha verimli kullanılmasını sağlıyor.
• Uçtan uca bir model ayarlama deneyimi: InstructLab ve OpenShift Aİ veri bilimi işlem hatlarını kullanan bu yeni özellik, LLM’lerin ince ayarını kolaylaştırmaya yardımcı olarak onları büyük üretim ortamlarında daha ölçeklenebilir, verimli ve denetlenebilir hale getirirken aynı zamanda Red Hat OpenShift Aİ kontrol paneli aracılığıyla yönetilebilirlik sağlıyor.
• Aİ Guardrails: Red Hat OpenShift Aİ 2.18, hem kullanıcı giriş etkileşimlerini hem de model çıktılarını izlemek ve daha iyi korumak için Aİ Guardrails’in teknoloji incelemesi yoluyla LLM doğruluğunu, performansını, gecikmesini ve şeffaflığını artırmaya yardımcı oluyor. Aİ Guardrails, BT ekiplerinin potansiyel olarak nefret dolu, küfürlü veya saygısız konuşmaları, kişisel olarak tanımlanabilir bilgileri, rekabet bilgilerini veya kurumsal siyasetlerle sınırlı diğer verileri tanımlamasına ve azaltmasına yardımcı olmak için ek algılama noktaları sunuyor.
• Model değerlendirmesi: Modelin genel kalitesi hakkında önemli bilgiler sağlamak için dil modeli değerlendirme (lm-eval) bileşenini kullanan model değerlendirme, veri bilimcilerin LLM’lerinin performansını mantıksal ve matematiksel akıl yürütmeden düşmanca doğal dile ve daha fazlasına kadar çeşitli vazifelerde karşılaştırmalarını sağlıyor ve sonuçta daha etkili, hassas ve uyarlanmış yapay zeka modelleri oluşturmaya yardımcı oluyor.

Red Hat Aİ portföyünün bir parçası olan RHEL Aİ, kurumsal uygulamaları güçlendirmek için LLM’leri daha dengeli bir şekilde geliştirmek, test etmek ve çalıştırmak için bir temel model platformu. RHEL Aİ, müşterilere önyüklenebilir bir Red Hat Enterprise Linux sunucu görüntüsü olarak paketlenmiş ve hibrit bulutta dağıtılabilen Granite LLM’ler ve InstructLab model hizalama araçları sağlıyor.

Şubat 2025’te piyasaya sürülen RHEL 1.4, aşağıdakiler de dahil olmak üzere çeşitli yeni geliştirmeler ekledi:

• Açık kaynak lisanslı Granite model ailesinin en son üyesi için Granite 3.1 8B model desteği. Model, çıkarım ve taksonomi/bilgi özelleştirmesi için çok lisanlı dayanağın (geliştirici önizlemesi) yanı sıra gelişmiş özetleme sonuçları ve Retrieval-Augment Generation (RAG) misyonları için 128k bağlam penceresi ekliyor.
• Veri alımını ve yığın oluşturmayı kolaylaştırmanın yanı sıra kullanıcıların bir yapay zeka modeline kendi maharetlerini ve katkılarını nasıl ekleyeceklerini kolaylaştırmak için geliştirici önizlemesi olarak mevcut olan maharetler ve bilgi katkıları için yeni bir grafik kullanıcı arayüzü.
• İlgili, özel veriler üzerinde ince ayarlanmış yapay zeka modellerinin aynı ayarlanmamış temel modellerin performansıyla daha kolay karşılaştırılması için Document Knowledge-bench (DK-bench).

İşletmeler, doğruluk ve veri güvenliğine öncelik veren, aynı zamanda maliyetleri ve karmaşıklığı mümkün olduğunca düşük tutan yapay zeka tahlillerini giderek daha fazla arıyor. IBM Cloud üzerinde bir hizmet olarak dağıtılan Red Hat Aİ InstructLab, Aİ modellerinin eğitimi ve dağıtımı için kolaylaştırmak, ölçeklendirmek ve güvenlik ayak izini düzgünleştirmeye yardımcı olmak üzere tasarlandı. Kurumlar, InstructLab model ayarlamasını kolaylaştırarak, verilerinin denetimini ellerinde tutarken kuruluşların eşsiz gereksinimlerine göre uyarlanmış daha verimli modeller oluşturabiliyorlar

Yapay zeka, işletmelerin çalışma ve rekabet etme biçimlerini yeniden tanımlayan dönüştürücü bir fırsattır. Red Hat, bu dinamik ortamda kuruluşları desteklemek için artık hiçbir ücret ödemeden Aİ Foundations çevrimiçi eğitim kursları sunuyor. Red Hat, hem tecrübeli üst seviye başkanlar hem de yapay zekaya yeni başlayanlar için tasarlanmış iki yapay zeka öğrenme sertifikası sunarak, her düzeyden kullanıcının yapay zekanın iş operasyonlarını dönüştürmeye, karar vermeyi kolaylaştırmaya ve inovasyonu teşvik etmeye nasıl yardımcı olabileceği konusunda eğitilmesine yardımcı oluyor. Aİ Foundations eğitimi, kullanıcılara Red Hat Aİ kullanırken bu bilgileri nasıl uygulayacakları konusunda rehberlik ediyor.

Ulaşılabilirlik

Red Hat OpenShift Aİ 2.18 ve Red Hat Enterprise Linux Aİ 1.4 artık genel kullanıma sunulmuştur.

Diğer Teknoloji Haberleri İçin Tıklayın / Bursa Haber - Bursa Gündem - Bursa Gündem Haber - Bursa Haberleri - Bursa Son Dakika 

Bizi İnstagram'da Takip Edebilirsiniz / @BursaGündemHaber

Bizi X'de Takip Edebilirsiniz / @BursaGündemHbr

Bizi Facebook'da Takip Edebilirsiniz / @BursaGündemHaber

Bizi Youtube'da Takip Edebilirsiniz / @BursaGündemHaber

Bizi Linkedin'de Takip Edebilirsiniz / @BursaGündemHaber