GLOBALATLAS AI · ინფრასტრუქტურა Mistral-სთვის

ინფრასტრუქტურა Mistral-სთვის

Mistral 7B და სხვა Mistral გამოშვებები განსხვავდებიან ზომასა და არქიტექტურაში. აირჩიეთ კონკრეტული მოდელი ჰარდვერის ზომის წინაშე.

შეადარეთ Mistral არქიტექტურა დრაივთან

  1. 01

    ზუსტი მოდელის ბარათი და წონის რევიზია

  2. 02

    სქელი ან ექსპერტების მიკსი არქიტექტურა

  3. 03

    მხარდაჭერილი გარემო, სიზუსტე და კონტექსტი

არქიტექტურის გადაწყვეტილება

გამოიყენეთ არჩეული მოდელის ბარათი ზომის განსაზღვრებისთვის. მეხსიერების შეფასება Dense 7B წონებისთვის არ შეიძლება გამოყენებულ იქნას სხვა Mistral ვერსიაზე.

კონფიგურაციის მოთხოვნები

7B სქელი მოდელი 16 ბიტით დაახლოებით 14 GB წონას შეიცავს. დატოვეთ მეხსიერება დროისა და კონტექსტისთვის; არ გამოითვალოთ მომხმარებელთა რაოდენობა ამ შეფასებიდან.

ტექნიკური მიმოხილვები

სპეციფიკაცია 1 →