File tree Expand file tree Collapse file tree 1 file changed +9
-7
lines changed Expand file tree Collapse file tree 1 file changed +9
-7
lines changed Original file line number Diff line number Diff line change @@ -196,24 +196,26 @@ def test_word_tokenize_newmm(self):
196196 self .assertIsNotNone (word_tokenize (long_text , engine = "newmm" ))
197197 self .assertIsNotNone (word_tokenize (long_text , engine = "newmm-safe" ))
198198
199- short_danger_text = """
199+ danger_text1 = """
200+ ชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิ
201+ """
202+ danger_text2 = """
200203 ด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้าน
201204 """
202- long_danger_text = """
205+ danger_text3 = """
203206 ด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกก
204207 """
205208 self .assertIsNotNone (
206- word_tokenize (short_danger_text , engine = "newmm-safe " )
209+ word_tokenize (danger_text1 , engine = "newmm" )
207210 )
208211 self .assertIsNotNone (
209- word_tokenize (long_danger_text , engine = "newmm-safe" )
212+ word_tokenize (danger_text1 , engine = "newmm-safe" )
210213 )
211- text = "ชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิ"
212214 self .assertIsNotNone (
213- word_tokenize (text , engine = "newmm" )
215+ word_tokenize (danger_text2 , engine = "newmm-safe " )
214216 )
215217 self .assertIsNotNone (
216- word_tokenize (text , engine = "newmm-safe" )
218+ word_tokenize (danger_text3 , engine = "newmm-safe" )
217219 )
218220
219221 def test_word_tokenize_attacut (self ):
You can’t perform that action at this time.
0 commit comments