არქიტექტურის გადაწყვეტილება
გამოიყენეთ არჩეული მოდელის ბარათი ზომის განსაზღვრებისთვის. მეხსიერების შეფასება Dense 7B წონებისთვის არ შეიძლება გამოყენებულ იქნას სხვა Mistral ვერსიაზე.
GLOBALATLAS AI · ინფრასტრუქტურა Mistral-სთვის
Mistral 7B და სხვა Mistral გამოშვებები განსხვავდებიან ზომასა და არქიტექტურაში. აირჩიეთ კონკრეტული მოდელი ჰარდვერის ზომის წინაშე.
ზუსტი მოდელის ბარათი და წონის რევიზია
სქელი ან ექსპერტების მიკსი არქიტექტურა
მხარდაჭერილი გარემო, სიზუსტე და კონტექსტი
გამოიყენეთ არჩეული მოდელის ბარათი ზომის განსაზღვრებისთვის. მეხსიერების შეფასება Dense 7B წონებისთვის არ შეიძლება გამოყენებულ იქნას სხვა Mistral ვერსიაზე.
7B სქელი მოდელი 16 ბიტით დაახლოებით 14 GB წონას შეიცავს. დატოვეთ მეხსიერება დროისა და კონტექსტისთვის; არ გამოითვალოთ მომხმარებელთა რაოდენობა ამ შეფასებიდან.