Limitations du trafic

Les paquets ML d'extraction et de classification nécessitent une quantité importante de ressources de calcul, ce qui implique certaines limitations lorsque la taille des documents et/ou l'exécution du nombre de documents par minute augmentent.

Les documents de plus de 100 pages sont censés être soumis à des limitations de calcul ou de latence, ce qui rend les compétences ML instables ou renvoie des erreurs HTTP. Il est difficile de définir une limite supérieure exacte, car la densité du texte et la résolution des image dans les documents présentent une large plage dynamique, et la densité du texte (nombre de mots par page) a un impact sur les ressources de calcul et de RAM requises, ainsi que sur la latence. De plus, la capacité d'une compétence ML dépend de la taille du matériel utilisé pour la déployer, qui est contrôlée par AI Center. Par exemple, les compétences ML peuvent être déployées sur GPU ou CPU, ce qui a un impact considérable sur la capacité et la vitesse de la compétence ML.

En ce qui concerne l'exécution, les compétences ML ne peuvent traiter qu'un seul document à la fois. Cela signifie que vous devez attendre qu'un document soit terminé avant d'envoyer le suivant. Plus les documents sont volumineux, moins vous pouvez en traiter par unité de temps.

Pour pallier ces problèmes, si vous devez traiter des documents très volumineux, gardez à l'esprit que, dans de nombreux cas, les données pertinentes peuvent se trouver sur un sous-ensemble plus restreint de pages, et ce sous-ensemble peut être fractionné à l'aide du classifieur de mots clés intelligents. Cette stratégie peut être payante, car elle élimine les erreurs/échecs/délais d'expiration des compétences ML, optimise l'exécution et la réactivité, augmente la précision de l'extraction en réduisant le nombre de faux positifs et diminue les coûts en évitant d'utiliser des AI units non nécessaires.