»ó´Ü¿©¹é
HOME »êÇп¬°ü
ETRI, AI ¼­ºñ½º °³¹ß µ½´Â 'Çѱ¹¾î ÃÖ÷´Ü ¾ð¾î¸ðµ¨' °ø°³
¡ã = ETRI ÀÓÁØÈ£ ¼±ÀÓ¿¬±¸¿øÀÌ ÄÚ¹öÆ®(KorBERT) ÀÛµ¿ ¿ø¸®¿¡ ´ëÇØ ¼³¸íÇÏ°í ÀÖ´Ù.

Çѱ¹ÀüÀÚÅë½Å¿¬±¸¿ø(ETRI)Àº ÃÖ÷´Ü Çѱ¹¾î ¾ð¾î¸ðµ¨ ‘ÄÚ¹öÆ®(KorBERT)’¸¦ °³¹ßÇØ ´©¸®Áý(http://aiopen.aihub.or.kr)À» ÅëÇØ °ø°³Çß´Ù°í 11ÀÏ ¹àÇû´Ù.

ÄÚ¹öÆ®´Â ÀÚ¿¬¾î Ã³¸® µö·¯´×À» À§ÇØ ¾ð¾î¸¦ ¼ýÀڷΠǥÇöÇÑ ÈÄ ÇнÀ¿¡ µû¶ó ´Ü¾î°¡ ³ªÅ¸³¯ È®·ü ºÐÆ÷¸¦ ¸ðÀº ¸»¹¶Ä¡·Î À̹ø¿¡ ¿¬±¸ÁøÀº ±¸±ÛÀÇ ¾ð¾îÇ¥Çö ¹æ¹ýÀ» ±â¹ÝÀ¸·Î ´õ ¸¹Àº Çѱ¹¾î µ¥ÀÌÅ͸¦ ³Ö¾î ¸¸µç ¾ð¾î¸ðµ¨°ú Çѱ¹¾îÀÇ '±³Âø¾î' Æ¯¼º±îÁö ¹Ý¿µÇØ ¸¸µç ¾ð¾î¸ðµ¨ µî 2Á¾·ù¸¦ °ø°³Çß´Ù.

¾ð¾î󸮸¦ À§ÇÑ µö·¯´× ±â¼úÀ» °³¹ßÅ° À§Çؼ­´Â ÅؽºÆ®¿¡ ±â¼úµÈ ¾îÀýÀ» ¼ýÀڷΠǥÇöÇؾߠÇÑ´Ù.

À̸¦ À§ÇØ ±×µ¿¾È ¾ð¾î¸¦ È°¿ëÇÑ ¼­ºñ½º¸¦ °³¹ßÇϴ ±â°ü¿¡¼­´Â ÁַΠ±¸±ÛÀÇ ´Ù±¹¾î ¾ð¾î¸ðµ¨ '¹öÆ®'(BERT)¸¦ »ç¿ëÇß´Ù.

¹öÆ®´Â ¹®Àå ³» ¾îÀýÀ» ÇÑ ±ÛÀÚ¾¿ ³ª´« µÚ ¾ÕµÚ·Î ÀÚÁÖ ¸¸³ª´Â ±ÛÀÚ³¢¸® ´Ü¾î·Î ÀνÄÇÑ´Ù.

´ë¿ë·® ¿ø½Ã ÅؽºÆ®·ÎºÎÅÍ ¾îÈÖ¿Í ¹®Àå °£ ¾ç¹æÇâ ¼±ÈÄ°ü°è¸¦ ÇнÀÇØ ´Ü¾îÀÇ ¹®¸ÆÀ» ¹Ý¿µÇÑ º¤ÅͷΠǥÇöÇϴ ÀÌ ¹æ½ÄÀº Áö³­ÇØ 11¿ù Ã³À½ °ø°³µÅ ¾ð¾î󸮠11°³ ºÐ¾ß¿¡¼­ ¸¹Àº ¼º´É Çâ»óÀ» ÀÌ·ï ÁÖ¸ñÀ» ¹Þ¾Ò´Ù.

±¸±ÛÀº 40¿© ¸¸ °ÇÀÇ À§Å°¹é°ú ¹®¼­ µ¥ÀÌÅ͸¦ »ç¿ëÇØ Çѱ¹¾î ¾ð¾î¸ðµ¨À» °³¹ßÇß´Ù. ETRI ¿¬±¸ÁøÀº ¿©±â¿¡ 23±â°¡(GB)¿¡ ´ÞÇϴ Áö³­ 10³â°£ÀÇ ½Å¹®±â»ç¿Í ¹é°ú»çÀü Á¤º¸¸¦ ´õÇØ 45¾ï°³ÀÇ ÇüżҸ¦ ÇнÀ½ÃÄÑ ±¸±Ûº¸´Ù ¸¹Àº Çѱ¹¾î µ¥ÀÌÅ͸¦ ±â¹ÝÀ¸·Î ¾ð¾î¸ðµ¨À» °³¹ßÇß´Ù.

¿¬±¸ÁøÀº µ¥ÀÌÅÍ ¾ç°ú Àǹ̠ÃÖ¼Ò ´ÜÀ§ÀΠÇüżұîÁö °í·ÁÇØ ±¹¾î Æ¯¼ºÀ» ÃÖ´ëÇÑ ¹Ý¿µÇÑ ¾ð¾î¸ðµ¨À» ¸¸µé¾î °íµµÈ­Çß´Ù.

À̹ø Çѱ¹¾î¿¡ ÃÖÀûÈ­µÈ ¾ð¾î¸ðµ¨Àº ¡ãÀü󸮠°úÁ¤¿¡¼­ ÇüżҸ¦ ºÐ¼®ÇÑ ¾ð¾î¸ðµ¨ ¡ãÇѱ¹¾î¿¡ ÃÖÀûÈ­µÈ ÇнÀ ÆĶó¹ÌÅÍ ¡ã¹æ´ëÇÑ µ¥ÀÌÅÍ ±â¹Ý µîÀÌ ±¸±Û°úÀÇ Â÷º°¼ºÀ̶ó°í ¿¬±¸ÁøÀº ¼³¸íÇß´Ù.

°³¹ßµÈ ¾ð¾î¸ðµ¨Àº ¼º´ÉÀ» È®ÀÎÇϴ 5°¡Áö ±âÁØ¿¡¼­ ±¸±ÛÀÌ ¹èÆ÷ÇÑ Çѱ¹¾î ¸ðµ¨º¸´Ù ¼º´ÉÀÌ Æò±Õ 4.5% °¡·® ¿ì¼öÇϸç Æ¯È÷ ´Ü¶ô ¼øÀ§È­(Passage Ranking) ±âÁØ¿¡¼­´Â 7.4%³ª ³ôÀº ¼öÄ¡¸¦ ±â·ÏÇß´Ù.

ETRIÀÇ ¾ð¾î¸ðµ¨À» È°¿ëÇϸ頼­ºñ½º ¼º´É ¹× °æÀï·ÂÀ» ³ôÀÏ ¼ö À־ö·¯´× ¿¬±¸, ±³À° µîÀÇ ¸ñÀûÀ¸·Î ´ëÇÐ, ±â¾÷, ±â°üÀÇ °³¹ßÀÚµéÀÇ ¸¹Àº È°¿ëÀÌ ÀÌ·ïÁú °ÍÀ¸·Î ¿¹»óµÈ´Ù.

°³¹ßµÈ ¾ð¾î¸ðµ¨Àº ´ëÇ¥ÀûÀΠµö·¯´× ÇÁ·¹ÀÓ¿öÅ©ÀΠÆÄÀÌÅäÄ¡(PyTorch)¿Í ÅÙ¼­Ç÷οì(Tensorflow) È¯°æ ¸ðµÎ¿¡¼­ »ç¿ë °¡´ÉÇϸ砰ø°øÀΰøÁö´É ¿ÀÇ API·µ¥ÀÌÅÍ ¼­ºñ½º Æ÷Åп¡¼­ ½±°Ô Ã£¾Æº¼ ¼ö ÀÖ´Ù.

¿¢¼Òºê·¹ÀΠ»ç¾÷ÀÇ ÃÑ°ýÃ¥ÀÓÀÚÀΠETRI ±èÇö±â ¹Ú»ç´Â "Çѱ¹¾î¿¡ ÃÖÀûÈ­µÈ ¾ð¾î¸ðµ¨À» ÅëÇØ Çѱ¹¾î ºÐ¼®, Áö½ÄÃß·Ð, ÁúÀÇÀÀ´ä µîÀÇ ´Ù¾çÇÑ Çѱ¹¾î µö·¯´× ±â¼úÀÇ °íµµÈ­°¡ °¡´ÉÇÒ °ÍÀ¸·Î ±â´ëµÈ´Ù"°í ¸»Çß´Ù.

ÇöÀç ±¸±Û°ú ¿¬±¸ÁøÀÌ ¾ð¾î¸ðµ¨ °³¹ß¿¡ È°¿ëÇÑ BERT ¹æ½ÄÀº ¾à 512°³ ÀÌ»óÀÇ ´Ü¾î°¡ µé¾î°£ ¹®¼­¸¦ ÇÑ ¹ø¿¡ Ã³¸®ÇÏÁö ¸øÇÑ´Ù. ÇâÈÄ ¿¬±¸ÁøÀº ÇÑ ¹ø¿¡ ´õ¿í ¸¹Àº ¾ð¾î µ¥ÀÌÅ͸¦ Ã³¸®ÇÏ°í °ËÁõ ¹æ¹ýÀ» °íµµÈ­ÇÑ ¸ðµ¨À» °³¹ßÇÒ °èȹÀÌ´Ù.

ÃæûºñÁî  thecm11@naver.com

<ÀúÀÛ±ÇÀÚ © ÃæûºñÁî, ¹«´Ü ÀüÀç ¹× Àç¹èÆ÷ ±ÝÁö>

ÃæûºñÁîÀÇ ´Ù¸¥±â»ç º¸±â
iconÀαâ±â»ç
±â»ç ´ñ±Û 0°³
Àüüº¸±â
ù¹ø° ´ñ±ÛÀ» ³²°ÜÁÖ¼¼¿ä.
Back to Top