zone-mid-train

pip install -U sentence-transformers

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("ModelEvolution/zone")
# Run inference
queries = [
    "Write a concise summary of the following. Be sure to preserve important details: The possibilities here are endless. Magic and technology are often what authors of genre fiction think of first when they think about worldbuilding, and they can be the most fun parts of worldbuilding. When you\u2019re thinking about magic and technology, you can bend rules liberally:",
]
documents = [
    'Magic and technology are central and often the most enjoyable elements of worldbuilding in genre fiction, offering limitless creative possibilities. Authors can freely bend rules when developing these aspects.',
    'Natsuki: (sniffling and grinning) “Look at her! She’s so tiny and cute… Sayori, you did amazing. I can’t believe we all just… delivered a baby together.”\n\nYuri: (clasping her hands, still trembling with adrenaline) “Yes… Sayori, you were incredibly brave. And Sachiko is beautiful. She’s so precious.”\n\nMonika: (letting out a deep breath, trying to steady her nerves) “I’m so proud of all of us. Sayori, you were so strong, and everyone worked together perfectly. I’m just… so relieved Sachiko is here, safe and healthy.”\n\nMC: (still kneeling at Sayori’s side, brushing Sayori’s hair back gently) “You’re so strong, Sayori. I love you… both of you.”\n\nSayori: (smiling through tears at her friends and husband, cradling Sachiko) “Thank you, everyone… I don’t know what I would have done without you. Sachiko already has the best family and friends in the world.”\n\n(Sachiko’s cries quiet as she nestles into Sayori’s arms.)\n\nMonika: (softly) “Just rest, Sayori. The paramedics should be here any second to check on you and the baby. Until then, we’ll all be right here.”\n\nNatsuki: (wiping her face with her sleeve) “If you ever need anything, Sayori, just say the word. I’ll bring you cupcakes every day, I promise!”\n\nYuri: (smiling warmly) “And I’ll read Sachiko as many stories as she’d like. Anything to help.”\n\nSayori: (laughs weakly) “She’s so lucky to have all of you. And so am I.”\n\n(The clubroom, once bustling with panic and activity, falls into a peaceful silence as everyone gathers around Sayori and baby Sachiko, overwhelmed by love and relief.)\n\nMC: (quietly) “Welcome to the world, Sachiko. You’re already so loved.”\n\n(The sound of approaching sirens echoes faintly outside, but for a moment, the Literature Club just sits together, basking in the miracle they helped deliver.)\n\n**END SCENE**',
    '**Lista de 20 palabras holandesas:**  \n1. Hond (perro)  \n2. Bloemen (flores)  \n3. Regen (lluvia)  \n4. Fiets (bicicleta)  \n5. Appel (manzana)  \n6. Vuurwerk (fuegos artificiales)  \n7. Kat (gato)  \n8. Boom (árbol)  \n9. Sneeuw (nieve)  \n10. Zon (sol)  \n11. Muziek (música)  \n12. Dansen (baile)  \n13. Boek (libro)  \n14. Vis (pescado)  \n15. Wind (viento)  \n16. Maan (luna)  \n17. Boot (bote)  \n18. Lachen (reírse)  \n19. Schaatsen (patinar)  \n20. Nacht (noche)  \n\n---\n\n### Historia 1: *Een Koud Nachtschaatsen*  \n*Bij een donkere sneeuwnacht skate ik over het ijs van de meer. De maan schijnt zwak door de wolken, en de wind voelt ijzig op mijn wangen. Mijn hond, Pip, loopt naast me, zijn sporen in de schone sneeuw. Plotseling hoor ik een lachecho van een groepje vrienden die langs een boom groepen dansen, terwijl ze een boek over winteravonturen delen. "Laten we stoppen!" roept mijn vriend. Samen vieren we de stilte van de nacht, genietend van hete appels en heet thee...*  \n\n**Traducción al español:**  \n*En una noche oscura y nevada, patino sobre el hielo de un lago. La luna brilla débilmente entre las nubes, y el viento cortante goltea mis mejillas. Mi perro, Pip, camina a mi lado, dejando huellas en la nieve. De repente, escucho risas de un grupo de amigos junto a un árbol bailando en círculo, compartiendo un libro sobre aventuras invernales. ¡"Detengámonos!" grita un amigo. Celebramos el silencio de la noche con manzanas calientes y té caliente...*  \n\n---\n\n### Historia 2: *Regen en Bloemen*  \n*De regen kletterde op het dak, maar ik zat rustig in een rood stoel, lezend een boek met prachtige photo\'s van bloemen. Opeens hield de storm op, en er stak een zachte wind vanuit het noorden. Ik pakte mijn fiets enreed door een park vol pionussen en appelbomen. Toen ik een roze boom zag vol witte bloemen, stopte ik. Een kat zat onder de boom te slapen. \'Wat een schitterende dag!\' dacht ik. Het was alsof de wereld nieuw was geboren...*  \n\n**Traducción al español:**  \n*La lluvia golpeaba el techo, pero yo estaba tranquilo en una silla roja leyendo un libro con bellas fotos de flores. De pronto, la tormenta cesó y un suave viento soplando del norte. Tomé mi bicicleta y recorrí un parque lleno de nidos y manzanos. Al ver un árbol rosao con flores blancas, me detuve. Un gato dormía bajo él. "¡Qué hermoso día!" pensé. Como si el mundo se hubiera renacido...*  \n\n---\n\n### Historia 3: *Vuurwerk Avond op het Kanaal*  \n*Zaterdagavond, en de booten licht krioelden over het gracht. Muziek en lachen van een festival vulde de lucht. Toeristen dansten op een pier terwijl vuurwerk boven de zonsondergang ontplofte. Ik kocht visstokjes en vulde mijn boeket met bloemen van een straatveiling. Toen een zwarte kat vlak voor een vuurtoren kwam, glimlachte ik. "Wat een avond!" fluisterde ik terwijl de wind de geur van zout en papier rook.*  \n\n**Traducción al español:**  \n*Una noche sábado, los botes iluminados bullían por el canal. Música y risas de un festival llenaban el aire. Turistas bailaban en un muelle al ritmo de fuegos artificiales que estallaban sobre el atardecer. Compré brochetas de pescado y adquirí flores en un mercado callejero. Cuando un gato negro apareció cerca de un faro, sonreí. "¡Qué noche!" susurré, oliendo el viento a sal y papel...*  \n\n---  \nLas historias incluyen todas las palabras en contexto, difieren en tema/estructura y se tradujeron con fidelidad.',
]
query_embeddings = model.encode_query(queries)
document_embeddings = model.encode_document(documents)
print(query_embeddings.shape, document_embeddings.shape)
# [1, 768] [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(query_embeddings, document_embeddings)
print(similarities)
# tensor([[0.7780, 0.7080, 0.6299]])

@misc{gao2021scaling,
    title={Scaling Deep Contrastive Learning Batch Size under Memory Limited Setup},
    author={Luyu Gao and Yunyi Zhang and Jiawei Han and Jamie Callan},
    year={2021},
    eprint={2101.06983},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}