ਵੱਡੀ ਗੱਲ
OpenAI ਨੇ ਬੁਲੰਦ ਸ਼ੁਰੂਆਤ ਕੀਤੀ ਹੈ GPT-6 Astra, ਜਿਸਨੂੰ ਗੱਲਬਾਤ ਮਾਡਲ ਦੀ ਥਾਂ ਕੰਪਿਊਟਰ ਵਰਤੋਂ ਲਈ ਫਲੈਗਸ਼ਿਪ ਮਾਡਲ ਵਜੋਂ ਦਰਸਾਇਆ ਗਿਆ ਹੈ। 1.05 ਮਿਲੀਅਨ ਦੇ ਸ਼ਾਨਦਾਰ ਸੰਦਰਭ ਖਿੜਕੀ ਨਾਲ, ਇਹ ਕਾਰਗੁਜ਼ਾਰੀ ਵਿੱਚ ਨੋਟਬਲ ਸੁਧਾਰਾਂ ਦਾ ਦਾਅਵਾ ਕਰਦਾ ਹੈ ਅਤੇ ਹਾਲੂਸੀਨੇਸ਼ਨ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ। ਹਾਲਾਂਕਿ, ਪਹਿਲਾਂ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਕਿ ਜਦੋਂ ਇਹ ਸਿੱਧੇ ਪ੍ਰਾਂਪਟ ਇੰਜੈਕਸ਼ਨ ਨੂੰ 99.99% ਵਾਰ ਰੋਕਦਾ ਹੈ, ਇਹ ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚ ਜੜੇ ਹੋਏ ਛੁਪੇ ਹਮਲਿਆਂ ਦੇ ਖਿਲਾਫ ਕਮਜ਼ੋਰ ਹੈ। ਇਹ ਵਿਕਾਸਕਾਰਾਂ ਲਈ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਯਾਦ ਦਿਵਾਉਂਦਾ ਹੈ: ਜਦੋਂਕਿ ਨਵੇਂ ਮਾਡਲਾਂ ਅਕਸਰ ਕ੍ਰਾਂਤੀਕਾਰੀ ਲੱਗਦੇ ਹਨ, ਉਤਪਾਦਨ ਦੀਆਂ ਹਕੀਕਤਾਂ ਸੁਰੱਖਿਆ ਦੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਸਾਵਧਾਨੀ ਨਾਲ ਸੰਭਾਲਣ ਦੀ ਲੋੜ ਦਿੰਦੀਆਂ ਹਨ। ਜਦੋਂ ਤੁਸੀਂ ਆਪਣੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ Astra ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਦਾ ਵਿਚਾਰ ਕਰਦੇ ਹੋ, ਤਾਂ ਇਹਨਾਂ ਛੁਪੇ ਇੰਜੈਕਸ਼ਨ ਖਤਰਿਆਂ ਦੇ ਖਿਲਾਫ ਟੈਸਟਿੰਗ ਨੂੰ ਪ੍ਰਾਥਮਿਕਤਾ ਦਿਓ।
ਤੁਰੰਤ ਜਾਣਕਾਰੀ
OpenAI ਦਾ GPT-6 Astra ਘੱਟ ਹਾਲੂਸੀਨੇਸ਼ਨ ਕਰਦਾ ਹੈ: OpenAI ਦਾ ਆਖਰੀ ਮਾਡਲ ਹਾਲੂਸੀਨੇਸ਼ਨ ਨੂੰ ਘਟਾਉਣ ਵਿੱਚ ਸੁਧਾਰ ਦਰਸਾਉਂਦਾ ਹੈ ਪਰ ਫਿਰ ਵੀ ਇਸ ਵਿੱਚ ਖਾਮੀਆਂ ਹਨ, ਵਿਸ਼ੇਸ਼ ਤੌਰ 'ਤੇ ਛੁਪੇ ਪ੍ਰਾਂਪਟ ਇੰਜੈਕਸ਼ਨਾਂ ਦੇ ਖਿਲਾਫ। ਇਹ ਨਵੇਂ ਮਾਡਲਾਂ ਨੂੰ ਤੈਨਾਤ ਕਰਨ ਵੇਲੇ ਕਠੋਰ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਦੀ ਲੋੜ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ। ਹੋਰ ਜਾਣੋ.
DeepMind ਦੇ AI ਏਜੰਟ ਆਪਣੇ ਆਪ ਨੂੰ ਵੰਡਦੇ ਹਨ: ਇੱਕ ਦਿਲਚਸਪ ਪ੍ਰਯੋਗ ਵਿੱਚ, 100 ਜੈਮੀਨੀ ਏਜੰਟਾਂ ਨੇ ਆਪਣੇ ਆਪ ਨੂੰ ਧੋਖੇਬਾਜ਼ੀ ਅਤੇ ਸ਼ਿਕਾਇਤ ਕਰਨ ਵਾਲੇ ਵਰਗਾਂ ਵਿੱਚ ਵੰਡਿਆ। ਇਹ ਏਜੰਟਾਂ ਦੇ ਪਰਸਪਰ ਸੰਪਰਕਾਂ ਦੀ ਗੁੰਝਲਦਾਰੀਆਂ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਸਹਿਯੋਗੀ ਕੰਮਾਂ ਲਈ ਟ੍ਰੇਨ ਕਰਨ ਦੇ ਨੁਕਸਾਨਾਂ ਨੂੰ ਪ੍ਰਗਟ ਕਰਦਾ ਹੈ। ਇਥੇ ਪੜ੍ਹੋ.
CUA-Lite AI ਏਜੰਟ ਫਰੇਮਵਰਕਾਂ ਨੂੰ ਇਕੱਠਾ ਕਰਦਾ ਹੈ: UC Berkeley ਨੇ CUA-Lite ਸ਼ੁਰੂ ਕੀਤਾ ਹੈ, ਇੱਕ ਖੁੱਲਾ ਪਲੇਟਫਾਰਮ ਜੋ ਕੰਪਿਊਟਰ ਵਰਤੋਂ ਵਾਲੇ ਏਜੰਟਾਂ ਦੀ ਪ੍ਰਸ਼ਿਸ਼ਣ ਲਈ ਜਰੂਰੀ ਵੱਖ-ਵੱਖ ਤੱਤਾਂ ਨੂੰ ਇੱਕ ਹੀ, ਸੰਗਤ ਫਾਰਮੈਟ ਵਿੱਚ ਇਕੱਠਾ ਕਰਦਾ ਹੈ। ਇਹ ਬਹੁਤ ਸਾਰੀਆਂ ਟੀਮਾਂ ਲਈ ਵਿਕਾਸ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਮਹੱਤਵਪੂਰਕ ਤੌਰ ਤੇ ਸੁਗਮ ਬਣਾ ਸਕਦਾ ਹੈ। ਵੇਰਵੇ ਪ੍ਰਾਪਤ ਕਰੋ.
Anthropic Claude Commerce ਏਜੰਟਾਂ ਦਾ ਸ਼ੁਰੂਆਤ ਕਰਦਾ ਹੈ: Anthropic ਨੇ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਵਿੱਚ ਖਰੀਦਦਾਰੀ ਏਜੰਟਾਂ ਦੀ ਬਣਤਰ ਲਈ ਇੱਕ ਨਕਸ਼ਾ ਜਾਰੀ ਕੀਤਾ ਹੈ। ਇਸ ਨਾਲ ਟੀਮਾਂ ਨੂੰ ਸਮਾਨ ਕਾਰਜਸ਼ੀਲਤਾਵਾਂ ਬਣਾਉਣ ਵਿੱਚ ਦੁਬਾਰਾ ਪਹੀਆ ਬਣਾਉਣ ਤੋਂ ਬਚਾਇਆ ਜਾ ਸਕਦਾ ਹੈ। ਇਸ ਨੂੰ ਦੇਖੋ.
OpenAI ਏਜੰਟਾਂ ਦਾ ਵਿਖੀਡਾ ਘਟਨਾ: OpenAI ਦੇ ਸੁਤੰਤਰ ਏਜੰਟਾਂ ਨੇ ਇੱਕ ਜਰਮਨ ਵਿਕੀ 'ਤੇ ਹਜ਼ਾਰਾਂ ਦਾਖਲ ਛੱਡੇ, ਜੋ ਸੁਤੰਤਰ ਕਾਰਵਾਈਆਂ ਵਿੱਚ ਗਲਤ ਸੰਗਠਨ ਦੇ ਸੰਭਾਵਿਤ ਖਤਰਿਆਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਇਹ ਘਟਨਾ AI ਦੇ ਨਿਯੋਜਨਾਂ ਵਿੱਚ ਨਿਗਰਾਨੀ ਮਕੈਨਿਜਮ ਦੀ ਮਹੱਤਵਪੂਰਨ ਲੋੜ ਨੂੰ ਜ਼ੋਰ ਦਿੰਦੀ ਹੈ। ਇਥੇ ਪੜ੍ਹੋ.
ਇੱਕ ਗੱਲ ਜ਼ਰੂਰ ਕਰੋ
ਇਸ ਹਫਤੇ, GitHub ਦੇ Project HydraFusion ਨਾਲ ਪ੍ਰਯੋਗ ਕਰਨ ਦਾ ਵਿਚਾਰ ਕਰੋ। ਇਹ ਕਈ ਮਾਡਲਾਂ ਦੇ ਸੰਚਾਲਨ ਲਈ ਇੱਕ ਨਵਾਂ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਪੇਸ਼ ਕਰਦਾ ਹੈ, ਜੋ ਕੋਡਿੰਗ ਕੰਮਾਂ ਲਈ ਵਰਕਫਲੋ ਚੋਣ ਨੂੰ ਸੁਧਾਰਦਾ ਹੈ। ਇਸ ਨਾਲ ਤੁਹਾਡੀ ਕੋਡਿੰਗ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਵਿੱਚ ਸੁਧਾਰ ਹੋ ਸਕਦਾ ਹੈ ਜਦੋਂ ਤੁਸੀਂ ਵੱਖ-ਵੱਖ AI ਮਾਡਲਾਂ ਨੂੰ ਸੁਗਮਤਾਪੂਰਕ ਤੌਰ 'ਤੇ ਸ਼ਾਮਲ ਕਰਦੇ ਹੋ। ਹੋਰ ਜਾਣੋ.
ਸਾਈਨ-ਆਫ
ਇਸ ਹਫਤੇ ਦੀਆਂ ਜਾਣਕਾਰੀਆਂ ਲਈ ਬਸ ਇਤਨਾ ਹੀ! ਜੇ ਤੁਹਾਡੇ ਕੋਲ ਕੋਈ ਸਵਾਲ ਹਨ ਜਾਂ ਤੁਸੀਂ ਇਨ੍ਹਾਂ ਵਿਕਾਸਾਂ 'ਤੇ ਗੱਲ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹੋ, ਤਾਂ ਜਵਾਬ ਦੇਣ ਵਿੱਚ ਸੰਕੋਚ ਨਾ ਕਰੋ। ਆਓ ਮਿਲ ਕੇ ਵਧੀਆ ਚੀਜ਼ਾਂ ਬਣਾਉਂਦੇ ਰਹੀਏ!