litellm/cookbook/TogetherAI_liteLLM.ipynb at 553b993473e1cfc60fae5dfee0ef38fd0c052d7b

tiennm99/litellm

Fork 0

mirror of https://github.com/tiennm99/litellm.git synced 2026-07-15 12:21:11 +00:00

Files

T

ishaan-jaff 0f7245d153 with ChatLlama

2023-08-24 20:46:56 -07:00

74 KiB

Vendored

Raw Blame History

liteLLM Together AI Tutorial

https://together.ai/

In [1]:

!pip install litellm

Collecting litellm
  Downloading litellm-0.1.482-py3-none-any.whl (69 kB)
[2K     [90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━[0m [32m69.3/69.3 kB[0m [31m757.5 kB/s[0m eta [36m0:00:00[0m
[?25hRequirement already satisfied: importlib-metadata<7.0.0,>=6.8.0 in /usr/local/lib/python3.10/dist-packages (from litellm) (6.8.0)
Collecting openai<0.28.0,>=0.27.8 (from litellm)
  Downloading openai-0.27.9-py3-none-any.whl (75 kB)
[2K     [90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━[0m [32m75.5/75.5 kB[0m [31m3.1 MB/s[0m eta [36m0:00:00[0m
[?25hCollecting python-dotenv<2.0.0,>=1.0.0 (from litellm)
  Downloading python_dotenv-1.0.0-py3-none-any.whl (19 kB)
Collecting tiktoken<0.5.0,>=0.4.0 (from litellm)
  Downloading tiktoken-0.4.0-cp310-cp310-manylinux_2_17_x86_64.manylinux2014_x86_64.whl (1.7 MB)
[2K     [90m━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━[0m [32m1.7/1.7 MB[0m [31m17.0 MB/s[0m eta [36m0:00:00[0m
[?25hRequirement already satisfied: zipp>=0.5 in /usr/local/lib/python3.10/dist-packages (from importlib-metadata<7.0.0,>=6.8.0->litellm) (3.16.2)
Requirement already satisfied: requests>=2.20 in /usr/local/lib/python3.10/dist-packages (from openai<0.28.0,>=0.27.8->litellm) (2.31.0)
Requirement already satisfied: tqdm in /usr/local/lib/python3.10/dist-packages (from openai<0.28.0,>=0.27.8->litellm) (4.66.1)
Requirement already satisfied: aiohttp in /usr/local/lib/python3.10/dist-packages (from openai<0.28.0,>=0.27.8->litellm) (3.8.5)
Requirement already satisfied: regex>=2022.1.18 in /usr/local/lib/python3.10/dist-packages (from tiktoken<0.5.0,>=0.4.0->litellm) (2023.6.3)
Requirement already satisfied: charset-normalizer<4,>=2 in /usr/local/lib/python3.10/dist-packages (from requests>=2.20->openai<0.28.0,>=0.27.8->litellm) (3.2.0)
Requirement already satisfied: idna<4,>=2.5 in /usr/local/lib/python3.10/dist-packages (from requests>=2.20->openai<0.28.0,>=0.27.8->litellm) (3.4)
Requirement already satisfied: urllib3<3,>=1.21.1 in /usr/local/lib/python3.10/dist-packages (from requests>=2.20->openai<0.28.0,>=0.27.8->litellm) (2.0.4)
Requirement already satisfied: certifi>=2017.4.17 in /usr/local/lib/python3.10/dist-packages (from requests>=2.20->openai<0.28.0,>=0.27.8->litellm) (2023.7.22)
Requirement already satisfied: attrs>=17.3.0 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (23.1.0)
Requirement already satisfied: multidict<7.0,>=4.5 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (6.0.4)
Requirement already satisfied: async-timeout<5.0,>=4.0.0a3 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (4.0.3)
Requirement already satisfied: yarl<2.0,>=1.0 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (1.9.2)
Requirement already satisfied: frozenlist>=1.1.1 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (1.4.0)
Requirement already satisfied: aiosignal>=1.1.2 in /usr/local/lib/python3.10/dist-packages (from aiohttp->openai<0.28.0,>=0.27.8->litellm) (1.3.1)
Installing collected packages: python-dotenv, tiktoken, openai, litellm
Successfully installed litellm-0.1.482 openai-0.27.9 python-dotenv-1.0.0 tiktoken-0.4.0

In [2]:

import os
from litellm import completion
os.environ["TOGETHERAI_API_KEY"] = "" #@param
user_message = "Hello, whats the weather in San Francisco??"
messages = [{ "content": user_message,"role": "user"}]

Calling togethercomputer/llama-2-70b-chat

https://api.together.xyz/playground/chat?model=togethercomputer%2Fllama-2-70b-chat

In [ ]:

model_name = "togethercomputer/llama-2-70b-chat"
response = completion(model=model_name, messages=messages, max_tokens=200)
print(response)

{
  'choices': [
{
  'finish_reason': 'stop',
  'index': 0,
  'message': {
  'role': 'assistant',
  'content': "

I'm not able to provide real-time weather information. However, I can suggest some ways for you to find out the current weather in San Francisco.

1. Check online weather websites: There are many websites that provide up-to-date weather information, such as AccuWeather, Weather.com, or the National Weather Service. You can enter "San Francisco" in the search bar and get the current weather conditions, forecast, and radar imagery.
2. Use a weather app: You can download a weather app on your smartphone that provides real-time weather information. Some popular weather apps include Dark Sky, Weather Underground, and The Weather Channel.
3. Tune into local news: You can watch local news channels or listen to local radio stations to get the latest weather forecast and current conditions.
4. Check social media: Follow local weather accounts on social media platforms like Twitter or Facebook to"
}
}
  ],
  'created': 1692323365.8261144,
  'model': 'togethercomputer/llama-2-70b-chat',
  'usage': {'prompt_tokens': 9, 'completion_tokens': 176, 'total_tokens': 185}
}

In [4]:

model_name = "togethercomputer/CodeLlama-34b-Instruct"
response = completion(model=model_name, messages=messages, max_tokens=200)
print(response)

[92mHere's your LiteLLM Dashboard 👉 [94m[4mhttps://admin.litellm.ai/6c0f0403-becb-44af-9724-7201c7d381d0[0m
{
  "choices": [
    {
      "finish_reason": "stop",
      "index": 0,
      "message": {
        "content": "\nI'm in San Francisco, and I'm not sure what the weather is like.\nI'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and I'm not sure what the weather is like. I'm in San Francisco, and",
        "role": "assistant"
      }
    }
  ],
  "created": 1692934243.8663018,
  "model": "togethercomputer/CodeLlama-34b-Instruct",
  "usage": {
    "prompt_tokens": 9,
    "completion_tokens": 178,
    "total_tokens": 187
  }
}

With Streaming

In [ ]:

user_message = "Write 1page essay on YC + liteLLM"
messages = [{ "content": user_message,"role": "user"}]


import asyncio
async def parse_stream(stream):
    async for elem in stream:
        print(elem)
    return

stream = completion(model="togethercomputer/llama-2-70b-chat", messages=messages, stream=True, max_tokens=800)
print(stream)

# Await the asynchronous function directly in the notebook cell
await parse_stream(stream)

<async_generator object together_ai_completion_streaming at 0x7d39eeae81c0>
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Com'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'bin'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ator'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' ('}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ')'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' are'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' two'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' popular'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' acceler'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ators'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' have'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' gained'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' recognition'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' their'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' effect'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'iveness'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'urt'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'uring'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' scaling'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' early'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '-'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'stage'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' companies'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ities'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' they'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' also'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' have'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' distinct'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' differences'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' set'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' them'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' apart'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' In'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' this'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' ess'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ay'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' we'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' will'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' explore'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' key'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' features'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' discuss'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' which'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' might'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fit'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Com'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'bin'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ator'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' one'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' most'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' successful'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' acceler'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ators'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' world'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' with'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' port'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'folio'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' includes'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Air'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'b'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'nb'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Drop'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'box'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Red'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'dit'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' F'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ounded'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' '}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '2'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '5'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' has'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ed'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' over'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' '}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '1'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '9'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' start'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ups'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' with'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' combined'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' valu'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ation'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' over'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' $'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '1'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' billion'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' The'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' known'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' its'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' inten'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'se'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' three'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '-'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'month'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' boot'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' camp'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '-'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'style'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' format'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' where'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' found'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ers'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' work'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' closely'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' with'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' experienced'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' ment'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ors'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' develop'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' their'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' products'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' ref'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ine'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' their'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' business'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' models'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' prepare'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ra'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ising'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': "'"}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' software'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' technology'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' internet'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' start'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ups'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' has'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' strong'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' track'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' record'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' ident'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ifying'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'urt'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'uring'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' successful'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' companies'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' these'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' spaces'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' other'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' hand'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' relatively'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' new'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' acceler'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ator'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' was'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' founded'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' '}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '2'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '1'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '7'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' While'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' it'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' not'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' have'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' same'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' level'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' brand'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' recognition'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' as'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' has'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' quickly'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' gained'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' reputation'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' its'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' unique'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' approach'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' acceleration'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' The'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'es'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' supporting'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' under'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 're'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'present'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ed'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' found'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ers'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' particularly'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' women'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' people'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' color'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' provides'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' range'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' resources'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' support'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' help'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' these'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' found'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ers'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' succeed'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': "'"}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' designed'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' more'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' flexible'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' personal'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ized'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' than'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' traditional'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' acceler'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ators'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' with'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' connecting'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' found'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ers'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' with'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' ment'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ors'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' resources'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' are'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' tail'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ored'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' their'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' specific'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' needs'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'One'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' key'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' difference'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' between'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' type'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' companies'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' they'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' support'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'es'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' primarily'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' software'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' technology'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' internet'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' start'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ups'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' while'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' has'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' bro'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ader'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' includes'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' range'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' indust'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ries'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' such'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' as'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' health'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'care'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fin'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ance'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' consumer'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' products'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' This'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' means'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' if'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' non'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '-'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'tech'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' industry'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fit'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'An'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'other'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' difference'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' between'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' two'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' programs'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' their'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' approach'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ing'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' provides'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' seed'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ing'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' all'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' its'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' port'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'folio'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' companies'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' typically'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' range'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' of'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' $'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '1'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' $'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '2'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '0'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' In'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' contrast'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' does'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' not'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' provide'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ing'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' its'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' port'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'folio'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' companies'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' but'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' instead'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'es'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' connecting'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' found'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ers'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' with'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' invest'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ors'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' resources'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' can'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' help'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' them'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' raise'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' capital'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' This'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' means'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' if'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' looking'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ing'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' option'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'So'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' which'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' right'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '?'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' It'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' ultimately'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' depends'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' on'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' specific'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' needs'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' goals'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' If'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' non'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '-'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'tech'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' industry'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': "'"}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' bro'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ader'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' focus'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fit'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Additionally'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' if'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' you'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': "'"}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 're'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' looking'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' more'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' personal'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ized'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' flexible'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' approach'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' acceleration'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': "'"}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' choice'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' On'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' other'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' hand'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' if'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' in'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' software'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' technology'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' or'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' internet'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' space'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' you'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': "'"}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 're'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' looking'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' seed'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fund'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ing'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': "'"}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' may'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' be'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' a'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' better'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fit'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '\n'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'In'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' conclusion'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' Y'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'C'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' l'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ite'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'LL'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'M'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' are'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' both'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' excellent'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' acceler'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ators'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' can'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' provide'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' valuable'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' resources'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' support'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' to'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' early'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '-'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'stage'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' companies'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' While'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' they'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' share'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' some'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' similar'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 'ities'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' they'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' also'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' have'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' distinct'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' differences'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' that'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' set'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' them'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' apart'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' By'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' considering'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' startup'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': "'"}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': 's'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' specific'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' needs'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' and'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' goals'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ','}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' you'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' can'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' determine'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' which'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' program'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' is'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' the'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' best'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' fit'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' for'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' your'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': ' business'}}]}
{'choices': [{'delta': {'role': 'assistant', 'content': '.'}}]}

74 KiB Vendored Raw Blame History

liteLLM Together AI Tutorial

Calling togethercomputer/llama-2-70b-chat

With Streaming

74 KiB

Vendored

Raw Blame History