ਕੰਪਨੀ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਇਹ ਤਕਨਾਲੋਜੀ ਇੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਅੱਗੇ ਵਧ ਰਹੀ ਹੈ ਕਿ ਇਨਸਾਨਾਂ ਦੇ ਹੱਥਾਂ ਵਿੱਚੋਂ ਇਸ ਦਾ ਕੰਟਰੋਲ ਨਿਕਲਣ ਦਾ ਗੰਭੀਰ ਖ਼ਤਰਾ ਬਣ ਗਿਆ ਹੈ
ਏ.ਆਈ. ਦੇ ਤੇਜ਼ੀ ਨਾਲ ਹੋ ਰਹੇ ਵਿਕਾਸ ਅਤੇ ਇਸ ਦੇ ਵਧਦੇ ਖ਼ਤਰਿਆਂ ਨੂੰ ਦੇਖਦੇ ਹੋਏ ਐਂਥਰੋਪਿਕ (Anthropic) ਕੰਪਨੀ ਨੇ ਇੱਕ ਵੱਡੀ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕੀਤੀ ਹੈ। ਕਲਾਡ (Claude) ਚੈਟਬੋਟ ਬਣਾਉਣ ਵਾਲੀ ਇਸ ਪ੍ਰਮੁੱਖ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਕੰਪਨੀ ਨੇ ਦੁਨੀਆ ਦੀਆਂ ਚੋਟੀ ਦੀਆਂ ਏ.ਆਈ. ਕੰਪਨੀਆਂ ਨੂੰ ਅਪੀਲ ਕੀਤੀ ਹੈ ਕਿ ਉਹ ਉੱਨਤ ਏ.ਆਈ. ਸਿਸਟਮਾਂ ਦੇ ਵਿਕਾਸ ਨੂੰ ਅਸਥਾਈ ਤੌਰ 'ਤੇ ਰੋਕਣ ਜਾਂ ਹੌਲੀ ਕਰਨ ਲਈ ਇੱਕ ਤਾਲਮੇਲ ਵਾਲਾ ਰਾਹ ਲੱਭਣ। ਕੰਪਨੀ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਇਹ ਤਕਨਾਲੋਜੀ ਇੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਅੱਗੇ ਵਧ ਰਹੀ ਹੈ ਕਿ ਇਨਸਾਨਾਂ ਦੇ ਹੱਥਾਂ ਵਿੱਚੋਂ ਇਸ ਦਾ ਕੰਟਰੋਲ ਨਿਕਲਣ ਦਾ ਗੰਭੀਰ ਖ਼ਤਰਾ ਬਣ ਗਿਆ ਹੈ।
ਐਂਥਰੋਪਿਕ ਨੇ ਆਪਣੇ ਇੱਕ ਬਲੌਗ ਪੋਸਟ ਵਿੱਚ ਲਿਖਿਆ ਕਿ ਜਿਵੇਂ-ਜਿਵੇਂ ਇਹ ਤਕਨਾਲੋਜੀ ਕੋਡਿੰਗ ਵਰਗੇ ਸੌਫਟਵੇਅਰ ਕੰਮਾਂ ਨੂੰ ਖੁਦ ਕਰਨ ਵਿੱਚ ਤੇਜ਼ ਹੋ ਰਹੀ ਹੈ, ਉੱਥੇ ਹੀ ਇੱਕ ਅਜਿਹਾ ਸਮਾਂ ਆ ਸਕਦਾ ਹੈ ਜਦੋਂ ਏ.ਆਈ. ਸਿਸਟਮ ਆਪਣਾ ਅਗਲਾ ਰੂਪ ਖੁਦ ਤਿਆਰ ਕਰਨ ਦੇ ਯੋਗ ਹੋ ਜਾਵੇਗਾ, ਜਿਸ ਨੂੰ 'ਰਿਕਰਸਿਵ ਸੈਲਫ-ਇੰਪਰੂਵਮੈਂਟ' ਕਿਹਾ ਜਾਂਦਾ ਹੈ। ਹਾਲਾਂਕਿ ਇਸ ਨਾਲ ਵਿਗਿਆਨ ਅਤੇ ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ ਵੱਡੇ ਫਾਇਦੇ ਹੋ ਸਕਦੇ ਹਨ, ਪਰ ਇਹ ਖ਼ਤਰਾ ਵੀ ਵਧਾਉਂਦਾ ਹੈ।
ਇਸ ਦੇ ਨਾਲ ਹੀ, ਯੂਨੀਵਰਸਿਟੀ ਆਫ ਟੋਰਾਂਟੋ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇੱਕ ਅਜਿਹੇ ਏਆਈ 'ਵਰਮ' (worm) ਬਾਰੇ ਵੀ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਜੋ ਨੈੱਟਵਰਕ ਨੂੰ ਹੈਕ ਕਰ ਸਕਦਾ ਹੈ। ਮੁੱਖ ਖੋਜਕਰਤਾ ਨਿਕੋਲਸ ਪੇਪਰਨੋਟ ਨੇ ਕਿਹਾ, "ਮੈਂ ਸੋਚਦਾ ਹਾਂ ਕਿ ਲੋਕਾਂ ਲਈ ਇਹ ਸਮਝਣਾ ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ ਕਿ ਸਿਰਫ ਸਭ ਤੋਂ ਵੱਡੇ ਅਤੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਲੈਂਗੂਏਜ ਮਾਡਲ ਹੀ ਸੁਰੱਖਿਆ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਨਹੀਂ ਕਰਦੇ।"
ਐਂਥਰੋਪਿਕ ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ ਜੈਕ ਕਲਾਰਕ ਅਤੇ ਮਰੀਨਾ ਫਾਵਾਰੋ ਅਨੁਸਾਰ, ਇਸ ਬ੍ਰੇਕ ਦੀ ਵਰਤੋਂ ਸਮਾਜਿਕ ਢਾਂਚੇ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਨੂੰ ਏ.ਆਈ. ਦੇ ਬਰਾਬਰ ਲਿਆਉਣ ਲਈ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਇੱਕ ਵਿਸ਼ਵਵਿਆਪੀ ਪ੍ਰਣਾਲੀ ਦੀ ਲੋੜ ਹੈ ਤਾਂ ਜੋ ਕੋਈ "ਸ਼ਰਾਰਤੀ ਅਨਸਰ (bad actor) ਗੁਪਤ ਤੌਰ 'ਤੇ ਅੱਗੇ ਵਧਣ ਲਈ ਇਸ ਸੁਸਤ ਪ੍ਰਕਿਰਿਆ ਦਾ ਫਾਇਦਾ ਨਾ ਉਠਾ ਸਕੇ।" ਇਹ ਬਿਆਨ ਅਜਿਹੇ ਸਮੇਂ ਆਇਆ ਹੈ ਜਦੋਂ ਐਂਥਰੋਪਿਕ ਖੁਦ ਓਪਨ-ਏ.ਆਈ. (OpenAI) ਨਾਲ ਸਟਾਕ ਮਾਰਕੀਟ ਵਿੱਚ ਅੱਗੇ ਨਿਕਲਣ ਦੀ ਦੌੜ ਵਿੱਚ ਹੈ, ਜਿੱਥੇ ਇਸਦੀ ਕੀਮਤ ਇੱਕ ਟ੍ਰਿਲੀਅਨ ਡਾਲਰ ਦੇ ਕਰੀਬ ਹੋ ਸਕਦੀ ਹੈ।
