---
title: Düşük maliyetli sanal sunucularda hafif yapay zeka modelleri ile iş süreçlerinin otomasyonu
url: https://www.elseif.net/tr/dusuk-maliyetli-sanal-sunucularda-hafif-yapay-zeka-modelleri-ile-is-sureclerinin-otomasyonu
published: 2026-11-08T11:14:52+00:00
language: tr
section: Modeller
source: https://habr.com/ru/articles/1103894/?utm_campaign=1103894&utm_source=habrahabr&utm_medium=rss
organizations: Ollama, Open WebUI, Meta, Hugging Face, Yandex
publisher: elseif
---

# Düşük maliyetli sanal sunucularda hafif yapay zeka modelleri ile iş süreçlerinin otomasyonu

Düşük maliyetli sanal sunucularda, grafik işlemci bulunmayan donanımlarda hafif yapay zeka modellerinin işletme işlerini ne ölçüde çözebildiği test edildi. Deney, dört sanal merkezi işlem birimi ve dört gigabayt belleğe sahip bir sunucuda gerçekleştirildi. Bu yapılandırma, dört milyar parametreye kadar olan modellerin çalışmasına olanak tanıyor. Kısa süreli görevlerde, örneğin müşteri taleplerinin sınıflandırılması ve geri bildirim tonunun analizi, modeller başarılı sonuçlar verdi. Dört milyar parametreli bir model, yirmi talebin tamamını doğru sınıflandırdı ve her biri için ortalama 3,5 saniye harcayarak saatte yaklaşık 950 istek işleme kapasitesine ulaştı. Veri çıkarma, müşteri ilişkileri yönetimi verilerinin düzenlenmesi ve reklam taslakları gibi görevler, model çıktılarının kod ile doğrulanması ve dışa giden içeriklerin insan gözetiminden geçmesi koşuluyla işlevsel bulundu.

Uzun metin özetleme ve bilgi tabanı yanıtları gibi görevler ise 40 ila 100 saniye arası süreler gerektirdi ve aktif takas alanı kullandı. Bu nedenle uzun metin işlemleri arka planda çalışmaya uygun olsa da, müşteriyle doğrudan etkileşim için uygun görülmedi. Bir ila iki milyar parametreli modeller, kategorileri karıştırma ve uydurma bilgi üretme eğilimleri nedeniyle iş görevleri için yetersiz bulundu. Sunucu, istekleri sırayla işledi ve paralel slotlar veya hızlı dikkat mekanizmaları hızı artırmadı. Bellek, sistemin darboğazı olarak tespit edildi ve minimum sekiz gigabayt bellek önerildi. Deney, müşteri verilerinin bulut servislerine gönderilmesini istemeyen ekipler, yerel çıkarım için donanım seçen geliştiriciler ve benzer görevler için ürün geliştiren girişimciler için faydalı bulundu.

Test edilen altyapı, Docker üzerinde çalışan bir model yöneticisi ve web arayüzü içeriyordu. Ön yüklü model, iş görevlerinde dokuz model arasında en düşük performansı gösterdi. Web arayüzü yaklaşık bir gigabayt bellek kullandığı için, dört milyar parametreli modelleri çalıştırmak için durdurulması gerekti. Docker görüntüleri, ilk model indirilmeden önce yaklaşık 13 gigabayt disk alanı işgal etti. Sunucu, Intel Xeon Gold işlemci, Ubuntu işletim sistemi ve aylık yaklaşık 1500 ruble maliyetle çalıştırıldı. Ölçümler sırasında takas alanı yapılandırıldı, web arayüzü kapatıldı ve SSH bağlantıları için koruma eklendi. Dış yüklerin bulunmaması, ölçümlerin doğruluğu için kritik önem taşıdı.