690604:1554 ADR-034-134 #09.3 [skip CI]
This commit is contained in:
+2
-2
@@ -1,7 +1,7 @@
|
||||
FROM scb10x/typhoon-ocr1.5-3b:latest
|
||||
|
||||
PARAMETER num_ctx 8192
|
||||
PARAMETER num_predict 4096
|
||||
PARAMETER num_ctx 4096
|
||||
PARAMETER num_predict 2048
|
||||
PARAMETER temperature 0.1
|
||||
PARAMETER top_p 0.1
|
||||
PARAMETER repeat_penalty 1.1
|
||||
|
||||
Reference in New Issue
Block a user