← Fogalomtár
Fogalom
Inferencia
Az a folyamat és számítási fázis, amikor egy már betanított mesterséges intelligencia a kapott bemenet alapján ténylegesen legenerálja a választ.
Analógia
Míg a betanítás maga az évekig tartó tanulás az egyetemen, az inferencia az a pillanat, amikor a már végzett szakember élesben, a megszerzett tudása alapján megválaszolja az ügyfél konkrét kérdését.
Miért fontos?
Ez határozza meg, milyen gyorsan kapjuk meg a választ a képernyőn, és mennyi erőforrásba kerül egy feladat futtatása a mindennapi használat során. Amikor idegesítően lassúnak érezzük az AI-t, az azért van, mert az inferencia folyamata éppen leterhelt a szolgáltató szerverein.