๋ฏธ ๊ตญ๋ฐฉ๋ถ ๋ด๋ถ์๊ฐ Anthropic๊ณผ์ ๊ณ์ฝ ํด์ง ์ฌ๊ฑด์ ๊ฒฐ์ ์ ์๊ฐ("Holy Sh*t Moment")์ ๊ณต๊ฐํ๋ค. Maduro ์์ ํ Anthropic์ด ์์ฌ ์ํํธ์จ์ด ์ฌ์ฉ ์ฌ๋ถ๋ฅผ ์กฐํํ ๊ฒ์ด ๊ตญ๋ฐฉ๋ถ ๋ฆฌ๋์ญ์๊ฒ ์ฌ๊ฐํ ์์กด์ฑ ๋ฆฌ์คํฌ๋ฅผ ๊นจ๋ซ๊ฒ ํ ๊ณ๊ธฐ๊ฐ ๋์๋ค.
Anthropic ์์ โ Palantir์ ์ฐ๋ฝ:
"์ฐ๋ฆฌ ์ํํธ์จ์ด๊ฐ ๊ทธ ์์ ์ ์ฌ์ฉ๋์๋?"
๋ฌธ์ ์ :
โธ ๊ธฐ๋ฐ ์ ๋ณด ์์ฒญ (์์ ์ ๋ณด๋ classified)
โธ ๋ง์ฝ ์ฌ์ฉ๋์๋ค๋ฉด "์ด์ฉ์ฝ๊ด ์๋ฐ" ์์
Palantir โ ๊ตญ๋ฐฉ๋ถ ๋ณด๊ณ
"Holy sh*t... what if this software went down, some guard rail kicked up, some refusal happened for the next fight like this one and we left our people at risk."
ํต์ฌ ์ฐ๋ ค์ฌํญ:
1. ๋จ์ผ ๊ณต๊ธ์
์ฒด ์์กด์ฑ
๋์ ์์ด ํ ์ํํธ์จ์ด ์ ๊ณต์ฌ์ ์์ ์์กด
์๋น์ค ๊ฑฐ๋ถ ์ ์์ ์ํ ๋ถ๊ฐ
2. ํต์ ๋ถ๊ฐ๋ฅ ๋ฆฌ์คํฌ
Anthropic์ด ์ธ์ ๋ ์๋น์ค ์ค๋จ ๊ฐ๋ฅ
์ด์ฉ์ฝ๊ด ๊ธฐ๋ฐ์ผ๋ก ๊ตฐ์ฌ ์์ ๊ฐ์
๊ฐ๋ฅ์ฑ
3. ๋ด๋ถ ์ํ ๊ฐ๋ฅ์ฑ
Rogue developer(๋ฐ์ฒด์ ๊ฐ๋ฐ์)๊ฐ ๋ชจ๋ธ poisoning ๊ฐ๋ฅ
AI ๋ชจ๋ธ์ ์๋์ ๋ค๋ฅด๊ฒ ์๋์ํฌ ์ํ
"We're potentially so dependent on a software provider without another alternative that has the right or ability to not only shut it off, maybe it's a rogue developer who could poison the model to make it not do what you want."