Refactor

app.py

@@ -1,24 +1,23 @@
+Python
+
 import streamlit as st
 import requests
 from huggingface_hub import HfApi
-
-api = HfApi()
-
-models = api.list_models()
+import transformers
 
 # Define la función para procesar el documento con el prompt
 def process_document(document, prompt, model_name):
   # Carga el modelo
-#  model = load_model(model_name)
+  model = transformers.AutoModelForSeq2SeqLM.from_pretrained(model_name)
 
   # Prepara el texto de entrada
   input_text = document + prompt
 
   # Genera la respuesta del modelo
-  response = model(input_text)
+  response = model.generate(input_text, max_length=512)
 
   # Extrae la respuesta
-  model_response = response["generated_text"][0]
+  model_response = response[0]["text"]
 
   # Devuelve la respuesta del modelo
   return model_response