Show HN: TrnRT – An open-source LLM inference engine for AWS Trainium
· · · · · .
. 2.48, ( ), . -5.3- ; .
, : -5.3- 2 .
, 2.48 , 86_64 . ? /..
1. ( 2.32 ( 2.27), 3.13)
2. ( 86_64 , ; )
3. ( 2.48, $/ $/ )
4.
, , 4, 8 12 : · · .
-5.3- . , , , /. .
. 2.48 1 32 , :
( ) . : $8.60/, -2, 3 2026. $35.76/, 12 $0.167 . , , /..
. (/_.):
- : 32 , 157 -12 .
- : 384 384 .
- : .
; , . : , , . /. .
/..
/. , . ( ), . , . .
, . -5.3-, . -2.0 : __..
, , , ., . . . , .