Skip to content

Commit fbc87a5

Browse files
authored
Update test_tokenize.py
1 parent 3921e66 commit fbc87a5

File tree

1 file changed

+9
-7
lines changed

1 file changed

+9
-7
lines changed

tests/test_tokenize.py

Lines changed: 9 additions & 7 deletions
Original file line numberDiff line numberDiff line change
@@ -196,24 +196,26 @@ def test_word_tokenize_newmm(self):
196196
self.assertIsNotNone(word_tokenize(long_text, engine="newmm"))
197197
self.assertIsNotNone(word_tokenize(long_text, engine="newmm-safe"))
198198

199-
short_danger_text = """
199+
danger_text1 = """
200+
ชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิ
201+
"""
202+
danger_text2 = """
200203
ด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้าน
201204
"""
202-
long_danger_text = """
205+
danger_text3 = """
203206
ด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านหน้าด้านกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกกก
204207
"""
205208
self.assertIsNotNone(
206-
word_tokenize(short_danger_text, engine="newmm-safe")
209+
word_tokenize(danger_text1, engine="newmm")
207210
)
208211
self.assertIsNotNone(
209-
word_tokenize(long_danger_text, engine="newmm-safe")
212+
word_tokenize(danger_text1, engine="newmm-safe")
210213
)
211-
text = "ชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิชิ"
212214
self.assertIsNotNone(
213-
word_tokenize(text, engine="newmm")
215+
word_tokenize(danger_text2, engine="newmm-safe")
214216
)
215217
self.assertIsNotNone(
216-
word_tokenize(text, engine="newmm-safe")
218+
word_tokenize(danger_text3, engine="newmm-safe")
217219
)
218220

219221
def test_word_tokenize_attacut(self):

0 commit comments

Comments
 (0)