|
2 | 2 |
|
3 | 3 | > **๊ณฐํ๋ค** : ์ฌ๋ฌผ์ด๋ ์ผ์ ์๋ด๋ฅผ ์๋ ค๊ณ ์์ธํ ์ฐพ์๋ณด๊ณ ๋ฐ์ง๋ค.
|
4 | 4 |
|
5 |
| - |
| 5 | +> ์ต์ข
๋ฐํ [๊ตฌ๊ธ ์ฌ๋ผ์ด๋](https://docs.google.com/presentation/d/1bqOktYzIKhQZGDryHPhlE8sLUHnpPsBr/edit?usp=sharing&ouid=108719150340245142350&rtpof=true&sd=true) ๋ฐ [pdf](https://github.com/boostcampaitech3/final-project-level3-nlp-03/blob/main/NLP03_GOMPADA_Presentation.pdf) & [Youtube]() |
| 6 | +> |
6 | 7 | ๊ณฐํ๋ค๋ ํ์๋ค์ ์์ ํ ๋ต์์ ์๋์ผ๋ก ์ฑ์ ํด ์ ์๋๋ค์ ๋ฐ๋ณต์ ์ฑ์ ์์
์ ํจ์จ์ ์ผ๋ก ์ค์ฌ์ฃผ๋ ํ๋ก์ ํธ์
๋๋ค. ๊ต์ก๊ธฐ๊ด์์ ์ฌ์ฉํ๋ AI ์๋ ์ฑ์ ์์คํ
์ด ๊ธฐ์กด์ ๋จ์ (๋์ด์ฐ๊ธฐ, ์ ์ฌ์ด ๋ฑ์ ํ๋ณํ์ง ๋ชปํ๋ ๊ฒ)์ผ๋ก ์ธํด ์ค์ ๋ก ์ฌ์ฉํ๊ธฐ ์ด๋ ต๋ค๋ ์ฌ์ค์ ๋ฐํ์ผ๋ก, ๋จ์ ๋ค์ ๊ฐ์ ํ๊ณ ๋์ฑ ์ ๋ฐํ ์ฑ์ ๋ณด์กฐ ์๋น์ค๋ฅผ ๋ง๋ค๊ณ ์ ํ์ต๋๋ค.
|
7 | 8 |
|
8 | 9 |
|
|
12 | 13 |
|
13 | 14 |
|
14 | 15 |
|
| 16 | + |
15 | 17 | <center><img width="1028" alt="แแ
ณแแ
ณแ
แ
ตแซแแ
ฃแบ 2022-06-08 แแ
ฉแแ
ฎ 10 55 56" src="https://user-images.githubusercontent.com/50793789/172634752-4f18bd8c-d9ed-4e81-98bb-2a39d8a9f573.png"></center>
|
16 | 18 | ๊ณฐํ๋ค๋ ๋ค์ฏ ๋ช
์ ํ์
์ผ๋ก ๋ง๋ค์ด์ง ํ๋ก์ ํธ์ด๋ฉฐ, ๊ฐ์ ๋งก์๋ ์ญํ ์ ์์ ๊ฐ์ต๋๋ค.
|
17 | 19 |
|
|
25 | 27 | 
|
26 | 28 | ์ฑ์ ์ ํ์ ๋ต์๊ณผ ๋ชจ๋ฒ๋ต์๊ณผ์ ๋ฌธ์ฅ ์ ์ฌ๋๋ฅผ ํตํ ์ ์์ ๋ฌธ์ฅ ๋ด์ ํค์๋ ์ ์๋ฅผ ํตํด ์ด๋ฃจ์ด์ง๋๋ค.
|
27 | 29 |
|
28 |
| -1. ํค์๋ ๋ชจ๋ธ |
| 30 | +**1. ํค์๋ ๋ชจ๋ธ** |
29 | 31 |
|
30 | 32 | ํค์๋ ๋ชจ๋ธ์ **Word2Vec์ ์ฌ์ฉ**ํ์ผ๋ฉฐ FastText๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๊ตฌํํ์ต๋๋ค. ์ ์๋์ด ์์ฑํ ํค์๋๋ฅผ ๋ฐํ์ผ๋ก ๋ฌธ์ฅ ๋ด์์ **์ผ์ ์์น ์ด์์ ์ ์ฌ๋ ๊ฐ์ ๊ฐ์ง๋ ๋จ์ด๋ค์ ๊ฒ์ถ**ํ๋๋ก ๊ตฌํํ์ต๋๋ค. ๊ทธ ๊ฒฐ๊ณผ ์ ํํ ์ผ์นํ๋ ๋จ์ด ๋ฟ๋ง์ด ์๋๋ผ ์ ์ฌํ ์๋ฏธ๋ฅผ ๊ฐ์ง ๋จ์ด๋ค๋ ๊ฒ์ถํด ์ฑ์ ์ ์งํํ ์ ์์์ต๋๋ค.
|
31 | 33 | ์ ์ฑ์ ์ผ๋ก ํ๋จํ ๊ฒฐ๊ณผ ์ ์ฌ๋ ๊ธฐ์ค ์์น(cosine similarity)๋ฅผ 0.35๋ก ์ ํ์ต๋๋ค.
|
32 | 34 |
|
33 | 35 | 
|
34 | 36 |
|
35 |
| -2. ๋ฌธ์ฅ ์ ์ฌ๋ ๋ชจ๋ธ |
| 37 | +**2. ๋ฌธ์ฅ ์ ์ฌ๋ ๋ชจ๋ธ** |
36 | 38 |
|
37 | 39 |
|
38 | 40 | ๋ฌธ๋งฅ ์ ์ฌ๋ ์ฑ์ ๋ชจ๋ธ์ ๊ฐ ๋ฌธ์ฅ์ ์๋ฒ ๋ฉ์ ๊ตฌํ๊ณ ์ฝ์ฌ์ธ ์ ์ฌ๋ ์์คํจ์๋ก ํ์ตํ๋ **sentence BERT**๋ฅผ ์ด์ฉํ์ต๋๋ค. ์ผ๋ฐ์ ์ธ BERT๋ชจ๋ธ๋ก ๋ฌธ์ฅ์์ ์
๋ ฅ์ผ๋ก ๋ฃ๊ณ ํ๊ท ํน์ ์ด์ง๋ถ๋ฅ๋ก ํ์ตํ๋ฉด ์ ํฌ๊ฐ ๊ตฌ์ถํ validation ๋ฐ์ดํฐ์์ ์ข์ง์์ ์ฑ๋ฅ์ด ๋์๊ธฐ ๋๋ฌธ์
๋๋ค. ๋ ์ข์ ๋ฌธ์ฅ ์๋ฒ ๋ฉ์ ์ป๊ธฐ ์ํด ์ฌ์ ํ
์คํฌ์ ๋ค์ํ ๋ฐ์ดํฐ์
์ผ๋ก ์คํํด๋ณด์์ต๋๋ค. ๊ทธ ๊ฒฐ๊ณผ klue/bert-bas ์ฌ์ ํ์ต ๋ชจ๋ธ๋ก Natural langugage inference ํ
์คํฌ๋ก ๋จผ์ ํ์ธํ๋ํ ํ, ๋ฌธ์ฅ ์ ์ฌ๋ ํ
์คํฌ์ ํ์ธํ๋ํ ๋ชจ๋ธ์ ์ ํํ์์ต๋๋ค.
|
39 |
| -<img width="934" alt="แแ
ณแแ
ณแ
แ
ตแซแแ
ฃแบ 2022-06-08 แแ
ฉแแ
ฎ 11 05 10" src="https://user-images.githubusercontent.com/50793789/172637099-9ba42056-59fa-4a78-8c2a-1645ea59377e.png"> |
40 |
| - |
41 |
| -<img width="960" height="300" alt="แแ
ณแแ
ณแ
แ
ตแซแแ
ฃแบ 2022-06-08 แแ
ฉแแ
ฎ 11 00 20" src="https://user-images.githubusercontent.com/50793789/172636095-61118d94-91e9-45e2-9c24-300f8f9521f0.png"> |
42 |
| - |
43 |
| - |
44 |
| -<img width="1066" alt="แแ
ณแแ
ณแ
แ
ตแซแแ
ฃแบ 2022-06-08 แแ
ฉแแ
ฎ 11 02 12" src="https://user-images.githubusercontent.com/50793789/172636469-5835d781-6490-48f1-a658-473b2438bc13.png"> |
45 | 41 |
|
| 42 | +* klue/bert-base์ ์ฌ์ ํ์ต ๋ฐ ์ฌ์ฉ ๋ฐ์ดํฐ์ ๋ฐ๋ฅธ ์ฑ๋ฅ Ablations |
| 43 | +<!-- <img width="934" alt="แแ
ณแแ
ณแ
แ
ตแซแแ
ฃแบ 2022-06-08 แแ
ฉแแ
ฎ 11 05 10" src="https://user-images.githubusercontent.com/50793789/172637099-9ba42056-59fa-4a78-8c2a-1645ea59377e.png"> |
| 44 | + --> |
| 45 | + | ๋ฐ์ดํฐ์
| | | | | | Threshold | | |
| 46 | +|:---------------:|:-------------:|:--------------:|:--------------:|:----------------------:|:----------------------------:|:----------------:|:--------------:| |
| 47 | +| korNLI | korSTS | klueSTS | paraKQC | ์์ฑ ๋ฐ์ดํฐ | korSTS ๋์ฌ ์ผ๋ถ ๋ฐ์์ด ์นํ(500) | 0.6 | 0.7 | |
| 48 | +| | โ | | | | | 0.60 | 0.59 | |
| 49 | +| โ | โ | | | | | 0.67 | 0.65 | |
| 50 | +| โ | | โ | | | | 0.63 | 0.58 | |
| 51 | +| โ | โ | | | | | 0.53 | 0.61 | |
| 52 | +| โ | | | โ | | | 0.64 | 0.59 | |
| 53 | +| โ | | | | โ | | 0.65 | 0.64 | |
| 54 | +| โ | โ | | | | โ | 0.52 | 0.52 | |
| 55 | +<!-- <img width="960" height="300" alt="แแ
ณแแ
ณแ
แ
ตแซแแ
ฃแบ 2022-06-08 แแ
ฉแแ
ฎ 11 00 20" src="https://user-images.githubusercontent.com/50793789/172636095-61118d94-91e9-45e2-9c24-300f8f9521f0.png"> --> |
| 56 | + |
| 57 | +* BERT(korSTS ํ๊ท ํ์ต)๊ณผ SBERT(klue/bert-base+NLI+STS) ์ ๋ฌธ์ฅ ์ ์ฌ๋ score ์ฐจ์ด ์์ |
| 58 | +<!-- <img width="1066" alt="แแ
ณแแ
ณแ
แ
ตแซแแ
ฃแบ 2022-06-08 แแ
ฉแแ
ฎ 11 02 12" src="https://user-images.githubusercontent.com/50793789/172636469-5835d781-6490-48f1-a658-473b2438bc13.png"> --> |
| 59 | + |
| 60 | +| ๋ชจ๋ฒ๋ต์ | ๊ฒฝ์์ฌ๊ฐ ์์ ๊ฒฝ์ฐ ์๋ก์ ์ํ์ด ์ ํ๋ฆฌ๊ฒ ํ๊ธฐ ์ํด ๊ฐ๊ฒฉ๋ ๋ฎ์ถ๊ณ ์ํ์ ํ์ง๋ ์ข์์ง๋ค. ๋ ์ํ์ ๋ค์์ฑ์ ๋๋ฆฌ๋๋ฐ๋ ๋์์ด ๋๋ค. | BERT | SBERT | |
| 61 | +|-----------------------|----------------------------------------------------------------------------------------------------------------------------------------------------------------|-------------|--------------| |
| 62 | +| ๋ต๋ณ 1 | ์ ํ์ ๊ฐ๊ฒฉ์ด ๋ฎ์์ง๊ณ , ํ์ง์ด ์ข์์ง๋ค. ๋ ์ ํ์ ๋ค์์ฑ์ด ์ฆ๊ฐํ๊ณ , ์๋น์๋ค์ ๋ ์ข์ ํํ์ ๋ฐ์ ์ ์๋ค. | 0.56 | 0.81 | |
| 63 | +| ๋ต๋ณ 2 | ์๋ก์ ์ด๊ถ์ ๋ ์ป๊ธฐ ์ํด ํ์ง์ด๋ ๊ฐ๊ฒฉ๊ฒฝ์๋ ฅ ๋ฐ์๋ฅผ ๋์ด๊ธฐ ์ํด ๋
ธ๋ ฅํ์ฌ ์๋น์๋ ๋ ์ง ์ข์ผ๋ฉด์๋ ๊ฐ์ผ ์ํ์ ์ป์ ์ ์์ ๊ฒ์ด๋ค. | 0.52 | 0.75 | |
| 64 | + |
| 65 | +| ๋ชจ๋ฒ ๋ต์ | ๊ณ ๋๊ฐ ๋์์ง๋ฉด ๊ณต๊ธฐ์ ์๋ ฅ์ด ๋ฎ์์ง๋๋ฐ, ์จ๋๊ฐ ์ผ์ ํ ๋ ์๋ ฅ์ด ๋ฎ์์ง๋ฉด ๊ธฐ์ฒด์ ๋ถํผ๋ ์ฆ๊ฐํ๋ฏ๋ก ๊ณผ์ ๋ด์ง ๋ด๋ถ ๊ธฐ์ฒด์ ๋ถํผ๊ฐ ์ฆ๊ฐํ๊ธฐ ๋๋ฌธ์ด๋ค. | BERT | SBERT | |
| 66 | +|----------------|---------------------------------------------------------------------------------------------------------------------------------------------------------|------|-------| |
| 67 | +| ๋ต๋ณ 1 | ๊ธฐ์์ด ๋ฎ์์ ธ์ ๊ณต๊ธฐ์ ์๋ ฅ ๋๋ฌธ์ ๋นต๋นตํด์ง๊ฒ ๋ ๊ฒ์ผ ๊ฒ ๊ฐ๋ค. | 0.57 | 0.67 | |
| 68 | +| ๋ต๋ณ 2 | ํ์ง์ ๋นํด ๋์ ์ฐ์ ์๋ ฅ์ด ๋ฎ๊ณ ์จ๋๋ ๊ฐ์ํ๋ค. PV=nRT์ ๋ฐ๋ผ T๋ ๊ฐ์ํ๋, P์ ๊ฐ์ ์ํฅ์ด ๋ ์ปค์ ๋ถํผ๋ ์ฆ๊ฐํ๊ฒ ๋๋ค. | 0.51 | 0.66 | |
| 69 | + |
| 70 | +* ์งง์ ๋ฌธ์ฅ์ SBERT ์ค์ฝ์ด ์์ |
| 71 | + * ์งง์ ๋ฌธ์ฅ์ ๋ํ ๋ฐ์์ด, ๋ถ์ ํํ, ์ด์ ๋ณํ๋ ํ์
ํ๋ ์ค์ํ ํน์ ๋จ์ด๊ฐ ๋ฑ์ฅํ์ง ์์ ๊ฒฝ์ฐ ์ด๋ ค์ํ๋ ๊ฒฝํฅ์ฑ ์กด์ฌ |
| 72 | + |
| 73 | +| ๋ชจ๋ฒ ๋ต์ | ๊ณ ๋๊ฐ ๋์์ง๋ฉด ๊ณต๊ธฐ์ ์๋ ฅ์ด ๋ฎ์์ง๋๋ฐ, ์จ๋๊ฐ ์ผ์ ํ ๋ ์๋ ฅ์ด ๋ฎ์์ง๋ฉด ๊ธฐ์ฒด์ ๋ถํผ๋ ์ฆ๊ฐํ๋ฏ๋ก ๊ณผ์ ๋ด์ง ๋ด๋ถ ๊ธฐ์ฒด์ ๋ถํผ๊ฐ ์ฆ๊ฐํ๊ธฐ ๋๋ฌธ์ด๋ค. | SBERT | |
| 74 | +|----------------|---------------------------------------------------------------------------------------------------------------------------------------------------------|------| |
| 75 | +| ๋ต๋ณ 1 | ์ง๊ตฌ๋ ์ฃผ๋ณ์ ๋์ง ์๋๋ค. | 0.58 | |
| 76 | +| ๋ต๋ณ 2 | ์ฃผ๋ณ์ ์ง๊ตฌ๋ฅผ ๋๋ค. | 0.97 | |
| 77 | +| ๋ต๋ณ 3 | ์ง๊ตฌ๋ ๋ฉ์ถฐ์๋ค. | 0.54 | |
| 78 | +| ๋ต๋ณ 4 | ๋ฉ์ถฐ์์ง ์๊ณ ์ค์ฌ์ ๊ธฐ์ค์ผ๋ก ๊ณ์ ์์ง์ธ๋ค | 0.47 | |
| 79 | +| ๋ต๋ณ 5 | ์ง๊ตฌ๋ ๋ฉ์ถฐ์์ง ์๊ณ ์ค์ฌ์ ๊ธฐ์ค์ผ๋ก ๊ณ์ ์์ง์ธ๋ค | 0.76 | |
46 | 80 |
|
47 | 81 | ## ๋ชจ๋ธ ํ๊ฒฝ ์ค์
|
48 | 82 |
|
|
88 | 122 | **Gompada [์ฌ์ฉ ๋งค๋ด์ผ](https://www.notion.so/6e830bd4d4b1490692312a57b18942a5) << Click**
|
89 | 123 |
|
90 | 124 |
|
91 |
| -## Appendix |
92 |
| - |
93 |
| -### ํ์๋ผ์ธ |
94 |
| - |
95 |
| -ํ์๋ผ์ธ์ ์๋ ์บ๋ฆฐ๋๋ฅผ ์ฐธ๊ณ ํด์ฃผ์๋ฉด ๋ฉ๋๋ค. |
96 |
| -- ๊ฐ๋ฐ ๊ธฐ๊ฐ ๋์ ์ฃผ์ค ์์นจ 10์ ๊ทธ๋ฆฌ๊ณ ์คํ 4์์ ํ์๋ฅผ ์งํํ์ผ๋ฉฐ ์งํ ์ฌ์๋ค์ ๊ณต์ ํ์ต๋๋ค. |
97 |
| - |
98 |
| - |
99 | 125 | ### ํ์
Tools
|
100 | 126 |
|
101 | 127 | - ๋
ธ์
|
|
0 commit comments