ਬੜੀ ਖਬਰ
ToolGrad: ਲਿਖਤੀ "ਗਰੇਡੀਅੰਟ" ਨਾਲ ਕੁਸ਼ਲ ਟੂਲ-ਉਪਯੋਗ ਡੇਟਾਸੈਟ ਪੈਦਾ ਕਰਨਾ।
ਗੂਗਲ ਰਿਸਰਚ ਨੇ ToolGrad ਨੂੰ ਰਿਲੀਜ਼ ਕੀਤਾ ਹੈ, ਜੋ ਇੱਕ ਨਵਾਂ ਫਰੇਮਵਰਕ ਹੈ ਜੋ ਟੂਲ ਉਪਯੋਗ ਲਈ ਡੇਟਾਸੈਟ ਪੈਦਾ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਕਾਫੀ ਸੁਧਾਰਦਾ ਹੈ। ਪਰੰਪਰਾਗਤ ਪਹੁੰਚ ਨੂੰ ਬਦਲ ਕੇ, ToolGrad ਪਹਿਲਾਂ ਇੱਕ ਪ੍ਰਮਾਣਿਤ API ਚੇਨ ਬਣਾਉਂਦਾ ਹੈ ਫਿਰ ਉਕਤ ਯੂਜ਼ਰ ਪੁੱਛਗਿੱਛ ਪੈਦਾ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ 99.8% ਪਾਸ ਦਰ ਪ੍ਰਾਪਤ ਹੁੰਦੀ ਹੈ। ਇਹ ਬਦਲਾਅ ਨਾ ਸਿਰਫ ਡੇਟਾਸੈਟ ਪੈਦਾ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਆਸਾਨ ਕਰਦਾ ਹੈ ਬਲਕਿ ਟੂਲ ਇੰਟਰੈਕਸ਼ਨ ਮਾਡਲਾਂ ਦੀ ਕੁੱਲ ਗੁਣਵੱਤਾ ਨੂੰ ਵੀ ਸੁਧਾਰਦਾ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਲਈ, ਇਸਦਾ ਮਤਲਬ ਤੇਜ਼ ਅਵਰਤਨ ਅਤੇ ਹੋਰ ਮਜ਼ਬੂਤ ਮਾਡਲ ਹਨ ਜੋ APIs ਨੂੰ ਸਮਝ ਸਕਦੇ ਹਨ ਅਤੇ ਪ੍ਰਭਾਵੀ ਤਰੀਕੇ ਨਾਲ ਉਨ੍ਹਾਂ ਦਾ ਉਪਯੋਗ ਕਰ ਸਕਦੇ ਹਨ। ਜੇ ਤੁਸੀਂ ਆਪਣੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਟੂਲ-ਉਪਯੋਗ 'ਤੇ ਕੰਮ ਕਰ ਰਹੇ ਹੋ, ਤਾਂ ਇਸ ਸਮੇਂ ToolGrad ਨੂੰ ਖੋਜਣ ਦਾ ਸਮਾਂ ਹੈ ਜੋ ਤੁਹਾਡੇ ਪ੍ਰੋਜੈਕਟਾਂ ਨੂੰ ਉਚਾਈ 'ਤੇ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ। ਹੋਰ ਪੜ੍ਹੋ।
ਤੁਰੰਤ ਖਬਰਾਂ
AWS DevOps ਨਾਲ ਉਤਪਾਦਨ ਏਜੰਟ ਜੀਵਨ ਚੱਕਰ ਦੀ ਨਿਗਰਾਨੀ
AWS ਬਹੁ-ਏਜੰਟ ਸਿਸਟਮਾਂ ਦੀ ਨਿਗਰਾਨੀ ਲਈ ਇੱਕ ਦੋ-ਤਹਰੀਕ ਰੂਖ ਪੇਸ਼ ਕਰਦਾ ਹੈ, ਜੋ ਪਰੰਪਰਾਗਤ ਵਿਧੀਆਂ ਦੁਆਰਾ ਛੱਡੇ ਗਏ ਖਾਲੀ ਸਥਾਨਾਂ ਨੂੰ ਭਰਦਾ ਹੈ। ਅਮਾਜ਼ਨ ਬੇਡਰਾਕ ਏਜੰਟ ਕੋਰ ਮੁਲਿਆਂਕਨ ਨੂੰ ਜੋੜ ਕੇ, ਤੁਸੀਂ ਆਪਣੇ ਏਜੰਟ ਡਿਪਲੋਇਮੈਂਟ ਵਿੱਚ ਲਗਾਤਾਰ ਗੁਣਵੱਤਾ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਸੁਨਿਸ਼ਚਿਤ ਕਰ ਸਕਦੇ ਹੋ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਇਹ ਵਾਸਤਵਿਕ ਸਮੇਂ ਦੇ ਮੁਲਿਆਕਨ ਦੇ ਆਧਾਰ 'ਤੇ ਸਰਗਰਮੀਆਂ ਲਈ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਦੀ ਢੰਗਵਾਰ ਬਦਲਾਅ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਤੁਹਾਡੇ ਡਿਪਲੋਇਡ ਏਜੰਟਾਂ ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਵਧਦੀ ਹੈ।
ਪ੍ਰੀਫਿਕਸ-ਅਵੈਅਰ ਰਾਊਟਿੰਗ ਨਾਲ LLM ਦੀ ਢੀਲ ਘਟਾਓ
ਅਮਾਜ਼ਨ ਸੇਜਮੇਕਰ ਇਨਫਰੈਂਸ ਹੁਣ ਪ੍ਰੀਫਿਕਸ-ਅਵੈਅਰ ਰਾਊਟਿੰਗ ਦਾ ਸਹਾਰਾ ਲੈਂਦਾ ਹੈ, ਜੋ ਸਮਾਨ ਪ੍ਰੋੰਪਟ ਬੇਨਤੀ ਨੂੰ ਇੱਕੋ ਇੰਸਟੈਂਸ 'ਤੇ ਭੇਜ ਕੇ ਤੁਹਾਡੇ KV ਕੈਸ਼ ਨੂੰ ਗਰਮ ਰੱਖਦਾ ਹੈ। ਇਹ ਬਦਲਾਅ ਵਿਸ਼ੇਸ਼ ਤੌਰ 'ਤੇ ਦੁਹਰਾਈ ਜਾਣ ਵਾਲੀਆਂ ਪੁੱਛਗਿੱਛਾਂ ਵਾਲੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਮਹੱਤਵਪੂਰਨ ਢੀਲ ਘਟਾਉਣ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦਾ ਹੈ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਤੇਜ਼ ਜਵਾਬਾਂ ਦਾ ਮਤਲਬ ਹੈ ਬਿਹਤਰ ਉਪਯੋਗਕਰਤਾ ਅਨੁਭਵ, ਜੋ ਕਿਸੇ ਵੀ ਵਾਸਤਵਿਕ ਸਮੇਂ ਦੀ ਐਪਲੀਕੇਸ਼ਨ ਲਈ ਬਹੁਤ ਜਰੂਰੀ ਹੈ।
ਮਾਡਲ-ਅਗਨੋਸਟਿਕ PII ਪਛਾਣ LLMs ਨਾਲ
ਇੱਕ ਨਵਾਂ ਕਨਫਿਗਰੇਬਲ ਡੀਟੈਕਟਰ ਅਮਾਜ਼ਨ ਬੇਡਰਾਕ 'ਤੇ ਕਿਸੇ ਵੀ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ ਨੂੰ PII ਡੀਟੈਕਟਰ ਵਿੱਚ ਬਦਲਦਾ ਹੈ। ਪ੍ਰੋੰਪਟਾਂ ਤੋਂ ਕੋਡ ਨੂੰ ਪਛਾਣ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਨੂੰ ਬਦਲ ਕੇ, ਤੁਸੀਂ ਹੁਣ ਭਾਰੀ ਕੋਡਿੰਗ ਦੇ ਬਿਨਾਂ ਆਪਣੇ ਵਿਸ਼ੇਸ਼ ਜਰੂਰਤਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਪਛਾਣ ਨੂੰ ਅਨੁਕੂਲ ਕਰ ਸਕਦੇ ਹੋ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਇਹ ਲਚਨਸ਼ੀਲਤਾ ਡੇਟਾ ਗੋਪਨੀਯਤਾ ਨਿਯਮਾਂ ਦੇ ਨਾਲ ਆਸਾਨੀ ਨਾਲ ਪਾਲਣਾ ਕਰਨ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਂਦੀ ਹੈ।
ਅਮਾਜ਼ਨ ਸੇਜਮੇਕਰ ਹਾਈਪਰਪੋਡ 'ਤੇ Qwen3.8-2.4T-A95B ਨੂੰ ਡਿਪਲੋਇ ਕਰਨਾ
ਸਿੱਖੋ ਕਿ ਕਿਵੇਂ ਸਭ ਤੋਂ ਤਾਜ਼ਾ 2.4-ਟ੍ਰਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਖੁਲੀ ਭਾਰਤ ਮਾਡਲ, Qwen3.8-2.4T-A95B, ਨੂੰ ਸੇਜਮੇਕਰ ਹਾਈਪਰਪੋਡ 'ਤੇ vLLM ਨਾਲ ਡਿਪਲੋਇ ਕਰਨਾ ਹੈ। ਇਹ ਪਾਠ ਸ਼ੁਰੂ ਕਰਨ ਅਤੇ ਮਾਤਰਾ ਕਰਨ ਦੀ ਤਕਨੀਕਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਦਾ ਹੈ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਅੱਗੇ ਦੇ ਮਾਡਲਾਂ ਦੇ ਫਾਇਦੇ ਲੈਣਾ ਤੁਹਾਡੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਕਾਰਗੁਜ਼ਾਰੀ ਵਿੱਚ ਇੱਕ ਢੰਗ ਦੇ ਸਕਦਾ ਹੈ।
Redis LangCache ਨਾਲ ਜਾਣੋ
Redis ਨੇ ਇੱਕ ਪ੍ਰਬੰਧਿਤ ਸੈਮਾਂਟਿਕ ਕੈਸ਼ ਸ਼ੁਰੂ ਕੀਤਾ ਹੈ ਜੋ LLM API ਦੀ ਲਾਗਤ ਨੂੰ 90% ਤੱਕ ਘਟਾ ਸਕਦਾ ਹੈ ਅਤੇ ਜਵਾਬ ਦੇ ਸਮੇਂ ਨੂੰ ਕਾਫੀ ਤੇਜ਼ ਕਰ ਸਕਦਾ ਹੈ। ਦੁਹਰਾਈ ਜਾਣ ਵਾਲੀਆਂ ਪੁੱਛਗਿੱਛਾਂ ਵਾਲੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ, ਇਹ ਵੱਡੇ ਲਾਗਤ ਦੀ ਬਚਤ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦਾ ਹੈ। ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ: ਇਹ LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਤਰੀਕੇ ਨਾਲ ਸਕੇਲ ਕਰਨ ਲਈ ਇੱਕ ਖੇਡ-ਬਦਲਣ ਵਾਲਾ ਹੈ।
ਇੱਕ ਚੀਜ਼ ਜੋ ਕੋਸ਼ਿਸ਼ ਕਰੋ
ਇਸ ਹਫ਼ਤੇ, ToolGrad ਨਾਲ ਆਪਣੇ ਡੇਟਾਸੈਟ ਬਣਾਉਣ ਦੀਆਂ ਜ਼ਰੂਰਤਾਂ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੋ। ਇਸਦੇ API-ਪਹਿਲਾਂ ਦੇ ਰੂਖ ਨੂੰ ਵਰਤ ਕੇ, ਤੁਸੀਂ ਆਪਣੇ ਮਾਡਲਾਂ ਲਈ ਹੋਰ ਸਹੀ ਅਤੇ ਸੰਬੰਧਿਤ ਡੇਟਾਸੈਟ ਬਣਾ ਸਕਦੇ ਹੋ। ਸ਼ੁਰੂ ਕਰਨ ਲਈ ToolGrad ਦਸਤਾਵੇਜ਼ ਦੇਖੋ!
ਸਾਇਨ-ਆਫ
ਇਹ ਹੈ ਇਸ ਹਫਤੇ ਦੇ AI ਡਾਈਜੈਸਟ ਲਈ! ਇਹ ਅੱਪਡੇਟਾਂ ਵਿੱਚ ਡੁੱਬੋ ਅਤੇ ਮੈਨੂੰ ਦੱਸੋ ਕਿ ਇਹ ਤੁਹਾਡੇ ਪ੍ਰੋਜੈਕਟਾਂ 'ਤੇ ਕਿਵੇਂ ਪ੍ਰਭਾਵ ਪਾਉਂਦੇ ਹਨ। ਮੈਂ ਇਹ ਸੁਣਨ ਲਈ ਬੇਸਬਰੀ ਨਾਲ ਉਡੀਕ ਕਰਾਂਗਾ ਕਿ ਤੁਸੀਂ ਇਹ ਨਵੇਂ ਟੂਲ ਅਤੇ ਤਕਨੀਕਾਂ ਕਿਸ ਤਰ੍ਹਾਂ ਲਾਗੂ ਕਰ ਰਹੇ ਹੋ!